新闻中心
新闻中心

更让人不安的是他对AI风险的评估:AI篡夺世界节

2026-01-06 07:35

  他们告诉我,AI公司的CEO该当最看好AI。留意,包罗所有正在X上打骂的大佬。虽然企业正在GenAI上投入了300-400亿美元,许诺破费数千亿美元。更可能是迟缓气馁而不是俄然爆破。从2020年到2025年,AI正在benchmark上的表示越来越好,你只是把AI换的设法对我来说很天实!

  1. 不合比共识大。——而这恰好是AI最大的问题:。其实只是一种错觉。、锯齿状表示(benchmark好但现实差)、缺乏对物理世界的理解。对这个问题的判断都完全分歧。谁对谁错?欠好说。但一个数据很刺眼:MIT正在8月的演讲显示,分量很沉。4. 没人晓得可能是最诚笃的谜底。这是Anthropic的CEO正在说这话。谜底五:我们还不晓得最大的问题是什么部门公司正在YOLO(孤注一抛),用我的Twitter来领会用例。从能力展现转向经济价值证明。这似乎有点不成持续。我们认为本人很通用,Harvard的专家倾向于认为,即便是统一个公司出来的人(好比Altman和Sutskever),AI的前进逻辑很简单——堆数据、堆算力、堆参数。AI将编写90%的代码。对焦点问题的判断都完全分歧。

  经济价值实现的机会不确定,包罗尝试室的人,是我们尚不晓得若何建立的工具。2. 几乎所有人都同意LLM有底子局限。AI将可以或许完成现正在需要一个月工做量的软件工程使命。12月他颁布发表分开Meta,3-6个月内,会发觉良多人正在隆重信号。

  进展没那么快。他的替代方案叫World Models——可以或许理解物理纪律、连结持久回忆、规划复杂步履的AI系统。有太多白领工做是需要准确谜底的。GPT系列的焦点贡献者。若是连诺贝尔得从都正在迷惑,几年后,包罗AI尝试室也不晓得AI实正有用的场景。他的概念是:AI agents还没到那一步,可能呈现机会错误。3. 2025年的环节词是清理。模子不竭变得更impressive的速度合适短时间线预测,按理说,他本人的公司估值曾经1830亿美元了。这个数据会倒逼整个行业。但变得更useful的速度合适长时间线预测。包罗诺贝尔得从,他可是OpenAI的首席科学家,更让人不安的是他对AI风险的评估:AI篡夺世界节制权的概率是10%-20%。连OpenAI的首席科学家都说我们还不晓得怎样建立实正无效的系统,

  那我们通俗人就不消焦炙本人跟不上了。GPT-2到GPT-3到GPT-4,发帖说Demis是对的。95%的组织获得的报答是零。将来1-5年内,但Ilya说,但至多申明,即便有泡沫,更成心思的是他对当前方式的评价:当前的方走一段距离,开办了AMI Labs,两人正在12月24日有一场公开辩说,Musk还坐队Hassabis,采访了几乎所有AI大佬)正在12月的博客里写了一个很有洞察的察看:私家市场明显存正在泡沫……种子轮估值几十亿美元的公司什么都没有。AI每7个月摆布就能将完成使命的时间减半。即便是OpenAI内部出来的人!