AI热榜 对于人工智能的炒作来说，这几个月是忙碌的。
4 月底，Anthropic 声称其模型 Claude Mythos 比大多数安全专家更擅长发现软件漏洞。
然后我们发生了 OpenAI-Hugging Face 黑客事件，之后 Anthropic（自豪地）和 Meta（不情愿地）披露了涉及其模型的类似事件。
随后，Anthropic 声称其模型之一取得了数学突破；很快 OpenAI 就声称自己取得了数学突破。
最近，Anthropic 工程师雅各布·考克森 (Jacob Coxon) 宣布离开公司，并声称公司和 OpenAI 正在“直接奔向自我完善的超级智能，并用我们的生命进行赌博”。
这些事件大多被媒体气喘吁吁地报道，经常重复这些公司的拟人化框架——这些框架旨在描绘他们的软件不仅功能强大，而且是处于萌芽状态的“通用人工智能”。
那么究竟发生了什么？
我们正在目睹一系列巨大的、改变文明的技术突破，还是这只是一种营销？
在所有这些事件中，公司的大张旗鼓（在非法黑客案件中表现为道歉）伴随着激烈的媒体报道。
一旦相关领域的专家有时间检查所发生的事情，就会出现一个截然不同的故事，但媒体关注较少。
关于“黑客”事件，网络安全专家表示，这个故事更多的是关于 OpenAI 的疏忽和未能采用基本的、既定的安全实践，而不是“模型失控”或“人工智能代理创造文明”。
至于数学结果，最初对 OpenAI 的新闻稿感到“震惊”的数学家表示，其最新的聊天机器人 Astra 解决了“至少十年来一直开放且主要结果没有进展”的问题，但他们后来意识到结果并不“像最初出现的那样新颖”。
从那时起，数学家们指责该公司存在研究不当行为和剽窃行为，他们重申阿斯特拉没有实现“深刻的智力飞跃”。
几周后，OpenAI 宣布取得了自己的数学突破。
两天前，纽约大学库朗研究所数学教授特里斯坦·巴克马斯特（Tristan Buckmaster）发表了一份爆炸性声明，暗示 OpenAI 窃取了其他人的工作成果，并对其进行了不当归因。
早期的、危险的超级智能的主张并没有建立在良好的科学或工程实践的基础上。
相反，它们是基于超人类主义、优生学和对想象中的未来数字人类的一厢情愿的意识形态的叙述。
值得思考的是，为什么计算机编程和数学作为应用大型语言模型和相关技术的领域受到如此多的关注。
它们不仅经常被提升为人类智力成就的顶峰，而且它们所涉及的问题一旦提出答案就可以得到验证。
前一个财产帮助人工智能炒作者推销他们正在建造一切机器的想法。
后者使数学和编码问题更容易调整系统，因为可以评估系统输出（可能的单词序列或计算机代码片段），而无需支付数据工作人员查看和注释每个输出的费用。
数学家特别警告企业不要以这种方式利用他们的领域。
一份由数百人签署的声明称，“目前科技行业有强烈的商业动机夸大其产品的功能”，并要求政策制定者“在制定政策决策时咨询包括数学家在内的专家，而不是依赖新闻稿或流行的数学结果报告。
” 我们赞同这一呼吁，并指出科技公司所宣扬的速度和紧迫感也是一种误导政策制定者和公众的策略。
不幸的是，它有时会起作用，例如参议员伯尼·桑德斯（Bernie Sanders）出于善意但最终被误导的拟议立法，以阻止“人工智能”的发展。
🔗 原始来源
如果你要核对细节，可以再看原文： MIT Tech Review原文链接