20年前的几行代码竟如此牛逼惊了

5次阅读

共计 3197 个字符,预计需要花费 8 分钟才能阅读完成。

最近在知乎上看到了一个话题:世界上有哪些代码量很少,但很牛逼很经典的算法或项目案例?其中有一个回答是雷神之锤 3 中的快速逆平方根算法,我本以为是电影中雷神 3 中出现的代码,就特别好奇点进去看了一下,结果真是对应了代码注释中的一句话“what the fuck?”。

越不会越好奇,查过之后才知道这是一款游戏中的部分代码,1999 年发布,2005 年开源,距离现在已经有 20 年了,据说这部分代码出现在公共场合时,几乎震住了所有人,也就是下面这几行代码:

float Q_rsqrt(float number)
{
  long i;
  float x2, y;
  const float threehalfs = 1.5f;
  x2 = number * 0.5f;
  y  = number;
  i  = * (long *) &y;  // evil floating point bit level hacking
  i  = 0x5f3759df - (i >> 1); // what the fuck?
  y  = * (float *) &i;
  y  = y * (threehalfs - ( x2 * y * y) ); // 1st iteration
  // y  = y * (threehalfs - ( x2 * y * y) ); // 2nd iteration, this can be removed
  return y;
}

可能很多程序员老手都知道这段牛 B 的代码,但对于很多人应该是空白的。求一个数的平方根我们通常会用到库中的内置方法,也就是 sqrt,比如 C 语言中求一个数的平方根倒数,利用 float(1.0/sqrt(x))即可。

可能那个时候没有 sqrt 方法,作者被“被逼无奈”想到了这种方法,但是最牛逼的是这种方法要比 sqrt 方法快的多,据说在有的 CPU 上可以快 4 倍,也有说快 20% 的,但我的电脑上编译是要快接近 30%,而快的很大原因之一是因为代码中的一串神秘的数字 0x5f3759df。下面结合一些相关知识和推导来介绍作者几个骚操作,最终的目的都是为了得到这个神秘数字。

首先我们要先明确一个基础知识,即单精度浮点数在 32 位中是如何储存的。32bit 可以共分为三个部分 S、E、M,其中 S 只有 1 位,0 表示正数、1 表示负数;E 表示小数,共有 8 位;M 表示尾数,共有 23 位,如下图:

以数字 4.25 为例,整数 5 的二进制表示为 0100;与二进制表示整数同理,小数也是如此,比如 $2^0$ 右侧就是 $2^{-1}$,那么 4.25 转化为二进制形式就是 0100.01。将二进制形式转用科学计数法的形式可以表示为 $1.0001\times2^2=(1+0.0001)\times2^2$。

这里先用 s、e、m 表示,因为 S、E、M 另有含义

由于 4.25 是正数,那么 s 位就存储为 0,然后可以将指数处的 2 +127 以二进制形式存储至 e 中,加上 127 的理由是将指数的范围由 (-127,128) 移码至(0,255),这样就可以用指数位置就不用考虑符号问题。最后将小数点后的 0001 存储至 m 中,因为后面的数足以确定小数点前为 1,所以没有必要再存储 1,综上就是一个单精度浮点数在 32 位内存中的存储方式,如下图:

所以对于一个要开放的浮点数 x,有以下表示形式,先暂称为存储表达式(这个表达式下文需要用到):

$$x = (-1)^s+(1+m)\times 2^e$$

虽然 e 和 m 表示的实际意义是浮点数,但是毕竟二进制是都可以转换成十进制的整数嘛,那么如果从整数的角度看,整数 E 和浮点数 e、整数 M 和浮点数 m 有没有某种关系呢?答案是肯定有的,但是理由呢我不知道 =.=

$$E = 127+e$$

$$M = 10^{19}m$$

加 127 的原因上文已经介绍了,就是为了调整指数的符号范围;$10^{19}$ 是 m 中 1 后所需补零的个数,因为当从浮点数角度看时,1 左边的 0 是有起到占位作用的,而如果从整数角度看时,1 右边的 0 才有实际意义,所以在原基础的 m 上乘以 1 后零个数的次幂就可以转化至整 M。

我们再回到最初的问题,对于一个浮点数 x, 求它的逆平方根:

$$y = \frac{1}{\sqrt{x} \quad} = x^ {- \frac{1}{2}}$$

如果对等式两边同时取对数:

$$log_2 y = – \frac{1}{2} log_2x$$

如果结合上面的存储表达式,又可以得到一个新的等式:

对于上式中的 $log_2(1+m_x)$ 可以绘制出一条平滑的曲线,我们可以用直线 $y=m_x$ 对比 (如下图),可以看到两条线在(0,1) 之间非常相近,那么如果再将这条直线向上平移一点点,可以假设这个平移的距离为 b,那么两条线就有一种近似相等的关系:$log_2(1+m_x)\approx m_x+b$。

需要注意的是这种关系成立的前提是 $0\leq m_x\leq 1$,经代入得到下面式子:

如果对 $log_2 y$ 做相同处理,那么就有下面式子:

$$m_y+e_y+b \approx -\frac{1}{2}(m_x+e_x+b)$$

上面我们不是利用整数型的 M 和 E 分别表示 m 和 e 嘛,那么自然可以用整数型套用上式中的浮点型,对于不同数字,整数型和浮点型之间的关系也不同,所以这里统一用常量 B 和 L 表示,如下:

$$E = B+e$$

$$M = Lm$$

用整数型替换浮点型可以得到新式子:

可以看到整理后的式子左右有一个相同的部分 $M+LE$,我们已经知道了这三个字母代表的意思,但合在一起表达的又是一个新概念,合并两个整数是一个很简单的问题,比如合并 33 和 55,$33\times100+55=3355$,那么 $LE+M$ 不就是这个道理嘛,只不过前者是十进制后者是二进制,所以 $LE+M$ 的作用就是将 M 和 E 存储的数字捆绑在一起,用来表示储存的数字,有人想前面不是还有一位 S 吗?S 的作用是表示存储数字的正负,根号下的数字一定为正,所以 S 这位一定为 0,没有实际意义。有没有感觉真的秒!

既然这个组合用来表示一个数字,那么就可以用另一个变量 I 来表示:

$$I_y \approx \frac{3}{2}L(B-b) – \frac{1}{2}I_x$$

其实代码中下面这条语句就是套用的这个公式。

代码中利用了一个右移运算表示公式中的 $\frac{1}{2}$,而 $\frac{3}{2}L(B-b)$ 就是求出代码中这串神秘数字的基础,至于怎么求得的,只有作者知道。后面又有一位大佬对这串数字进行推导,经过精密的演算求得了一串新的数字 0x5f375a86,它略优于原常数,大佬只管算,我们膜拜就好。

因为上文中含 I 的公式是从整型的角度计算的,所以需要强制类型转换将整形转回浮点型,紧接着最后一行代码是利用牛顿迭代法提高结果的精确度,没有什么惊奇之处,下面回顾一下上文过程中作者的几个骚操作:

  • 用整数型表示浮点型
  • $log_2(1+m_x)\approx m_x+b$ 约等关系的替换
  • $LE+M$ 捆绑二进制

也许作者利用的想法是已经存在了很久的理论,但是能把这些理论相组合并灵活运用创造出这种新兴高效的算法,真的不得不感叹一句 NiuB,但需要注意的是这个算法依赖于浮点数的储存和字节顺序,所以在 Mac 上行不通。

上面代码可以再精简一些,但是原理一致,只是将一些变量简化:

float InSqrt(float x)
{
    float xhalf = 0.5f * x;
    int i = *(int*)&x;
    i = 0x5f3759df - (i>>i);
    x = *(float*)&i;
    x = x*(1.5f-xhalf*x*x);
    return x; 
}

可能你看到最后还是那句 ”what the fuck”,毕竟太多的公式推导都并没有相应的理论依据,只是靠着作者这些脑洞大开的想法,难道就是“我不要你觉得,我只要我觉得?”,关键还是要了解一下流程中几处很牛逼的想法,平时编程中不失为一种办法嘛,也可以当成一次知识拓展。

参考视频及博客:
https://www.bilibili.com/vide…
https://blog.csdn.net/noahzuo…

关注公众号【奶糖猫】第一时间获取更多精彩好文

正文完
 0