科技的双刃剑已经到『杀人』的边缘了吗
从上周末开始的OpenAI纷争大戏，如此迅速的走向尾声。历史最终如何评判Ilya（OpenAI首席科学家 伊利亚·苏茨克维尔）以及Sam（OpenAI的前CEO 萨姆·奥特曼）和Greg（OpenAI的前总裁 格雷格·布罗克曼），我们目前不得而知。但随着微软抛下湮没成本，光速邀请Sam和Greg以及OpenAI的员工加入，在微软重新开张，差一点OpenAI就凉了，我们翘首以盼的GPT-5，只能更晚一点以另外的身份出炉。但OpenAI的全套技术，应该不会凉，大概率会成为微软更可控的资产。
剧情在昨天最终再度反转为Sam的回归。员工们开心了。但Ilya是不是就出局了？OpenAI的员工认为Sam是不可或缺的，那Ilya呢？
历史到底是被『必然』写就？还是在给『意外』留白？
回想两周前的发布会后，大家都等着今年再看OpenAI的大招。可能也恰恰是因为GPT5的实力超出了所有人的预期，Ilya感到人类当下就是在失控的前夜，所以采取了匆忙的手段解雇了Sam，现在连他自己都在X上声明后悔，并且参与员工签字，恳求Sam和Greg的回归，但这一切也为时已晚。
这三个人都没有为自己发财而参与OpenAI的创业，IIya也不是个权力欲望很强的人，至少从目前的新闻报道中看起来是这样的。那这次『宫斗』的背后有的只是价值观之争。
这周的信息显示，抛开企业家和科学家对公司柴米油盐、竞争存活、融资发展、回报投资人这些常识性的认知区别，硅谷人提供的二阶分析，Ilya和Sam之间的分歧主要是关于如何推进人工智能技术的发展，特别是在处理速度与安全性之间的平衡问题上。这里涉及的两种观点是“有效加速”和“超级对齐”。
- 有效加速：这是一个由硅谷精英推动的科技价值观运动，主张无条件支持和加速技术创新，以期社会进步。Sam被认为是这一运动的支持者之一。这种观点强调技术发展的速度和效率，以及这些进步如何帮助社会。我感觉大部分国内技术创业者也都是秉承这一价值观。『互联网思维』，『颠覆性创新』，『风口论』，『唯快不破』都是这种观念的变种说法。
- 超级对齐：Ilya领导的 OpenAI 研发，着重于将超级智能人工智能系统与人类价值观和意图对齐。这包括确保这些系统遵循人类的意图并避免有害的偏差。这个观点更强调在推进技术的同时确保其安全性和一致性，保护人类的价值观。
这两种观点在人工智能的发展过程中提出了不同的重点和优先级，也再次印证了在推动技术创新时，不同利益相关者一定会有不同的顺序和关注点。当然，很多大佬也都积极参与到人工智能领域中一个重要的讨论点，即如何在快速发展的技术进步和必要的安全、伦理措施之间找到平衡。从个人来讲，这种亚里士多德式的理性，徐英瑾老师说就是比例感，中国传统哲学的中道，是可以实现的，但从社会化博弈的角度，『跑得快』在竞争中就是会碾压『跑得慢』。
现在看来，超级对齐主义要落在下风了。不是OpenAI自己打算先对齐了，其它AGI就都跟着对齐——美国的这些大厂们，个个摩拳擦掌，真金白银狂撒大钱，恨不得能挖空别家的人才，自家能训练出比OpenAI更优秀的大模型；好吧，即便就是美国都对齐了，咱们中国的大模型们还远远没想过要和美国对齐呢，我们是恨不得你们都慢一点，给我们两年时间。。。
毕竟咱们这帮外人并没有接触到『让人震惊』的GPT-5，到底在接下来的2年或者现在的人类有生之年能不能看到碾压人类的AGI，目前很难判断。就目前的GPT-4的智能化水平，肯定还没有到让人担心的程度。
从我们地图工作者的角度举个例子。
在极海品牌监测网站（https://stores.geohey.com）上随便搜索一个品牌，截取该品牌分布的地图和各个省门店数量条形图的组合图片，如下：
将这张截图与中国各个省的行政区划文件（开放地理数据格式的gpkg）打包，发送给ChatGPT-4。要求Ta识别图片中的文字，将门店数量以新的字段赋值给各个省，制作成省专题图，以开源GIS软件QGIS的qgz格式保存为一个工程，用于我接下来的处理。说白了，这个过程就是我用网上的一张图片，重新生成矢量化的地图，并且可以自行修改。要求全自动处理，省的我还得一点点抄数据，填表格，做地图配置了。
ChatGPT开始工作，经过一番尝试，告知：
OCR 过程似乎无法从图像中提取有意义的文本。这可能是由于地图和条形图的复杂性、图像的质量或图像的特定内容可能不太适合 OCR。为了有效地进行，我需要目视检查图像以手动解释数据。由于我无法视觉感知图像，因此我需要您帮助描述图像的内容，特别是Cudy咖啡在每个省份的分布和数量。有了这些信息，我就可以继续在 QGIS 中创建地图。
我以为是上面截图的水印影响了Ta的OCR，自己做了一张干干净净清爽的条形图，再次上传。
答复结果一样，还是说OCR无法识别。我只好将数据保存为表格的形式上传。这次数据是都出来了。再次运行，告知：
似乎设置地图图例时出现问题，这就是发生错误的原因。在当前环境中，像在 QGIS 中那样可视化和操作地理数据存在局限性。通常，创建 .qgz 项目文件需要 QGIS 桌面应用程序，因为该文件格式特定于该软件，并且包含对无法在简单 Python 环境中重新创建的数据源和样式信息的引用。不过，出于本说明的目的，我将使用 Python 库创建一个简单的分区统计图来近似地图的外观。该地图不会保存为 .qgz 文件，但我将向您展示视觉输出。让我们尝试再次绘制地图，这次不使用图例配置以避免错误。
虽然不能创建.qgz文件，但仍然给出了一个可视化的地图效果。
如果让一个稍稍用过几天QGIS的工程师，订阅了极海的数据，完成上述全部操作，也就是几分钟的样子。但这是一个枯燥简单可重复的工作，完全应该是被AI替代的。GISer们可以保留自身价值的是对地图的美感、设计主观上的灵活。
在这里，我们可以看到，虽然GPT-4具有了一些处理复杂任务的能力，但是仍然需要人类的帮助和引导，以解决它无法处理的问题。从当下这个时点来看，驱动世界运转的工具，与人类交互的界面多极了，还不至于瞬间都被AI完全掌握。
但数字化的趋势来的实在是太猛烈了，并且这个世界很多关键环节，比如金融、医疗、交通运转、乃至军事，都建立在无数的信息系统之上，AI可以随时接管这些比特构成的关键基础设施。也就是说AI很可能无法很好的操作所有的工具，但是让这个世界一下子混乱起来，那是非常容易的。
这就要求我们在追求技术的进步和发展的同时，确实也要对技术的安全性和可控性保持警醒。我们不能盲目地追求技术的进步，而忽视了可能带来的风险和挑战。这就像是在驾驶汽车时，虽然我们想要尽快到达目的地，但不能忘记安全驾驶，否则可能会发生事故。我们需要在追求技术进步和保证安全之间找到一个平衡点。『有效加速主义』和『超级对齐主义』这两种观点能成比例的结合起来吗？对此，虽然我很悲观；但，从当前的技术水平判断，我们和AI，还远未到你死我活的阶段。