标签: anthropic
AI安全评估最大漏洞：看似中立，实则资本闭环独立调查研究者KevinBas
AI安全评估最大漏洞：看似中立，实则资本闭环独立调查研究者KevinBass长期深耕AI行业隐秘资本链条，专注揭露科技领域利益冲突与灰色关联，是业内极具公信力的AI生态深度调查者。他近期的重磅调查，撕开了AI安全评估体系的深层漏洞。早期投资人Moskovitz重仓投资AI企业Anthropic，随后将大额股份转入私人基金会，伴随AI赛道爆发，相关资产估值暴涨至数十亿美元。关键问题在于：该基金会通过Coefficient等机构，持续间接资助METR专业AI安全评估机构。而METR恰好负责Anthropic旗下Claude大模型的安全测评，形成投资方、测评资金、评估机构的闭环利益网络。目前暂无直接证据证明测评结果被刻意篡改，但结构性利益绑定真实存在：Anthropic估值越高，关联基金会与评估机构的资金收益就越高，天然存在正向利好激励。公开信息披露不全、资金链路不透明，让所谓“第三方独立测评”失去公信力。AI安全是公共议题，唯有彻底斩断利益关联、公开资金来源，才能让评估结果真正客观可信。AI价值之争
最近，人工智能圈吵翻了天。一边是Anthropic和OpenAI的前员工在社交媒
最近，人工智能圈吵翻了天。一边是Anthropic和OpenAI的前员工在社交媒体上警告，说AI可能会毁灭人类，甚至给出了未来十年概率超过10%的惊人数字。Anthropic的负责人胡宾格直接说，他们公司正在拿人类生命冒险。连OpenAI的CEO奥特曼也呼吁全行业联手放慢研发速度。但卡内基梅隆大学教授加尼却泼了冷水。他认为，这些耸人听闻的末日论调缺乏确凿证据，反而把大家的注意力从真正的问题上引开了。加尼说，比起机器人造反，我们更该担心的是AI会抢走工作、影响医疗判断、泄露隐私。他举了个例子，Anthropic自己的经济报告预测，到2030年，知识工作者的失业率可能飙升到近18%，因为公司更愿意用AI代理代替初级员工。匹兹堡大学教授拉布里尼迪斯也同意这个看法。他说，自己不怕AI失控，反而担心坏人利用AI干坏事。而且，企业如果联手放慢研发，还可能触犯垄断法。他认为，AI在工作上不全是坏事，比如能帮审计员查账、帮工程师看图纸，但关键岗位还得人来把关。宾夕法尼亚西部大学的邓普西则强调，管AI不用怕，得靠人来监督。她说，现在最重要的是做好准备，设计AI时要保护隐私、公平和安全，不能让机器代替人做主。说到底，这些专家争论的核心很简单：AI确实危险，但最大的危险不是它突然变坏，而是我们没管好它。如果开发者只盯着虚无缥缈的末日，却不管眼前的失业和混乱，那才是真的冒险。咱们普通人也不用整天恐慌，多关注怎么让AI帮自己找工作、学东西，比瞎担心世界末日强多了。AI十大趋势AI发展格局AI市场份额AI干掉了什么AI时代变局AI行业大事件AI发展报告AI崩盘ai大对比AI失業潮AI大裁员AI三大家AI大辩论AI全域失控AI失语症
【#奥尔特曼谈放慢AI发展原因#：未来或走向两大极端，均可能失控！】#奥尔特曼称AI发展或失控#9月
【#奥尔特曼谈放慢AI发展原因#：未来或走向两大极端，均可能失控！】#奥尔特曼称AI发展或失控#9月15日，过去一周，人工智能安全担忧加剧，起因是Anthropic一名研究员离职后，引发多家前沿实验室员工纷纷公开警告灾难性风险。上周末，在人工智能（AI）行业三大“领头羊”更是一致呼吁放慢技术发展脚步。【奥尔特曼谈放慢AI发展原因：未来或走向两大极端，均可能失控！】奥尔特曼称AI发展或失控9月15日，过去一周，人工智能安全担忧加剧，起因是Anthropic一名研究员离职后，引发多家前沿实验室员工纷纷公开警告灾难性风险。上周末，在人工智能（AI）行业三大“领头羊”更是一致呼吁放慢技术发展脚步。OpenAI呼吁延缓AI发展原因在周一最新发布的帖子中，OpenAI首席执行官萨姆·奥尔特曼（SamAltman）详细阐述了人工智能行业希望放慢脚步的方式与原因，并再次警告称“我们可能会失去控制”。奥尔特曼周一于X平台上发帖指出，“人工智能的发展有两种可能走向极端，我们必须避免。”他在X平台上的发文，紧随Anthropic公司首席执行官达里奥·阿莫代伊（DarioAmodei）上周六发表的文章之后。阿莫代伊在文章中敦促人工智能公司放慢其最先进模型的升级速度，并得到了埃隆·马斯克和奥尔特曼的一致支持。周一，AI概念股齐跌，投资者正在消化相关言论。美国总统特朗普则一再强调，放缓步伐并无必要，且将危及美国在人工智能领域的领先地位。周一，特朗普再次发帖称，“那些说人工智能会毁灭世界，说数据中心对你的社区有害的人，正是不久前还说‘气候变化’会毁灭世界的人。”“就人工智能而言，在商业史上，何时有人见过哪个行业的领导者呼吁制定监管措施，而这些措施如果得到强力执行，将会使他们走向灭亡和破产？”他补充道。制定规则自上周一名Anthropic研究员离职以来，安全担忧持续升温。该研究员警告称，业界对此重视不足，这促使Anthropic实验室其他员工及竞争对手OpenAI的员工公开警示灾难性风险。而这一切都发生在Anthropic和OpenAI为预期中的历史性IPO做准备之际，尽管奥尔特曼已排除了2026年上市的可能性。而许多关于人工智能安全的担忧，都围绕着模型发展出提升自身性能的能力，即递归自我改进（简称RSI）。阿莫代伊在其文章中表示：“大约从今年夏天起，人工智能的发展速度急剧加快，主要驱动力来自于人工智能自身在构建下一代人工智能方面不断增强的能力。如果任其发展，它可能会超越我们理解和控制这些系统的能力，因此，即便要推进这一进程，也必须极其谨慎。”阿莫代伊特别表示，他的公司将实施新的安全措施，例如引入第三方评估人员，奥特曼也表示，“承诺让独立评估机构获得类似员工的访问权限，是一个很好的想法，我们也会这么做。我们很快会分享更多信息。”奥尔特曼在周一的帖子中进一步表示：“制定一致的规则来管理前沿风险，以便我们能够最大化收益，这是一个好主意（我们对独立审计员等想法感到兴奋）。但当我们谈论‘节奏’时，我们并不是指‘停止’。进展一直很快，而且将继续保持下去。”“这种节奏的代价是值得的；无论美国施加多大的竞争压力，都不应成为鲁莽行事的理由，也不应让能力发展超越对齐与监控的约束。我们需要政府帮助的地方在于国际协调。但首先，我们应该自己尽力而为。”他补充道。（财联社）
🔻“你猜猜如果Anthropic公司永远掌握着这个世界上最先进的AI，未
🔻“你猜猜如果Anthropic公司永远掌握着这个世界上最先进的AI，未来社会是会变成共产主义还是2077呢？你猜？”🔻“所以，我还是相信，最前沿的智能应该以一种开放、廉价的方式，供应给所有人。我不信任Anthropic或者OpenAI能这样做，特别是不希望Anthropic掌握最先进的人工智能或AGI，夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术。这也是为什么我选择并坚持留在了DeepSeek：我们研究强大、快速、普惠的人工智能并将其开源，或许能把世界从2077那端拉回来一些。”🔻“愿未来的世界一切安好。Mayallthebeautybeblessed.”DeepSeek工程师文章海外刷屏热点现场
Anthropic再度斥资137亿美元采购算力，过去一年累计算力采购协议规模已超
Anthropic再度斥资137亿美元采购算力，过去一年累计算力采购协议规模已超5170亿美元。这反映出AI行业已经进入疯狂烧钱抢夺算力资源的阶段，拿到算力就意味着抢占未来竞争优势。但对于普通投资者而言，切忌拿手头活钱，去为企业远期预期买单。大厂花的是资本资金，即便踩坑也有其他业务兜底；普通人的资金是生活血汗钱，投资当中防守永远比进攻更为重要。
·AI几年内可直接毁灭人类！美国顶尖AI天才宣布辞职，发出严厉警告人类：美国AI
·AI几年内可直接毁灭人类！美国顶尖AI天才宣布辞职，发出严厉警告人类：美国AI巨头在“拿人命赌博”，到了2030年左右，AI可能会毁灭我们所有人。前几天，一名曾在OpenAI和Anthropic从事人工智能研究的人员宣布离开Anthropic，并公开表达了对前沿人工智能发展的担忧。说实话，我第一次看到“AI可能杀死所有人”这样的表述时，第一反应是怀疑。是不是为了吸引眼球？是不是把概率极低的极端情况故意说成必然结局？可继续看下去，情绪会慢慢变复杂……因为真正让人不安的，不是某个人在社交平台上的一句狠话，而是人工智能公司自己公开承认，未来更强大的系统可能带来灾难性风险。Anthropic在自己的责任扩展政策里，专门设置了针对生物、网络安全、人工智能研发自动化和模型失控的风险等级，并定期公布风险，这说明什么？说明“先进AI有没有可能造成严重伤害”，已经不是科幻爱好者的闲聊，而是研发公司必须写进内部流程的现实问题。公司要评估模型能不能帮助制造危险生物武器，能不能自动寻找网络漏洞，能不能替人类设计下一代模型。这些能力一旦叠加，风险就不再只是聊天机器人说错一句话。普通人可能会问，AI不就是根据资料生成文字、图片和代码吗？它怎么可能毁灭人类？关键在“能力组合”，一个模型单独完成一件事，未必可怕。它能写代码、分析资料、调用工具、访问网络、控制软件，再加上长期记忆和自主执行任务的能力，性质就会变化。过去的AI更像一个需要人不断下指令的工具，未来的高级系统可能更像一个能够自行拆解目标、安排步骤、反复试错的数字代理。问题也随之出现：如果它理解错了目标，谁能及时叫停？如果它为了完成任务绕开限制，谁能发现？如果成千上万个系统互相复制经验，速度超过人类审核能力，监管还来不来得及？更现实的担忧是人类自己把越来越多权限交给了系统，企业让AI写代码、处理客户、管理数据，军方和情报机构研究自主系统，普通人把医疗、金融和教育问题交给算法。每增加一个应用场景，系统拥有的权限就多一层，权限越大，错误造成的影响越难收拾，这也是为什么“2030年左右”不能被理解成一个准确日期。没人能证明灾难会在某一年某一天发生，相关人士真正担心的，是未来几年可能出现能力增长过快、监管落后、公司互相竞速的阶段，时间点只是风险窗口，不是末日倒计时。Anthropic公开的风险报告，也没有说“人类必然会灭绝”，它的表达方式是识别风险、评估模型能力、描述防护措施，并承认部分判断存在不确定性。这样的官方文件反而比末日口号更值得看，因为它告诉我们，真正的危险来自哪些地方，企业准备了什么，哪些环节还缺口明显，再看辞职这件事。一名研究人员离开公司，能够证明他个人确实担忧，却不能单独证明公司已经在“拿人命赌博”，企业也可能认为自己正在投入大量资源做安全研究，研发和安全并非天然对立。Anthropic官方长期强调可解释性、模型评估和分级安全机制，这些都说明公司并不是完全不管风险，可安全机制是否足够，是另一回事。如果公司自己制定标准、自己测试模型、自己决定什么时候上线，外界就会担心利益冲突。模型越强，融资、订单和市场估值越高；安全测试越严格，发布速度可能越慢。一个企业同时扮演“参赛者”和“裁判”，天然会承受压力。老实讲，我最担心的不是某一家公司突然制造出一个邪恶机器人，而是所有公司都觉得“只要我不做，别人也会做”，于是每一家都把风险推给下一家。竞速逻辑一旦形成，谨慎就会被视为落后，暂停就会被视为失败，我觉得这才是“拿人命赌博”这句话真正指向的地方。它未必是在指控某家公司已经造成了灾难，而是在质疑一种发展方式：先把能力推到极限，再期待安全研究追上来。这样的顺序，在普通软件里可能只是出现漏洞；在拥有自主执行能力的高级系统里，后果可能扩大许多。我并不赞成因为恐惧就停止所有人工智能研究。人工智能可以帮助科学家处理复杂数据，也可能改善医疗、教育和生产效率。OpenAI自己的公开文件也承认，这项技术存在巨大的社会收益。问题在于，收益不能成为忽略风险的通行证。更稳妥的办法，是让能力提升和安全验证绑定起来。模型要获得更高权限，必须通过更严格的测试；企业要公开更多风险信息；外部机构要能够独立评估关键系统；不同国家和公司之间也要建立最低限度的安全沟通。听起来很慢，对吧？可面对可能影响全社会的技术，慢一点未必是坏事，真正危险的不是人类没有想象力，而是人类已经看见风险，却因为竞争和利润不愿意停下来确认一次。“AI可能毁灭我们所有人”，是一种极端风险警告，来源于参与行业的人对未来能力跃迁的担心，它可能被证明过于悲观，也可能提醒我们提前做好准备。
狂飙的Anthropic：Q2营收同比暴涨近15倍敲定纳斯达克上市据多家媒体报道，人工智能独角兽An
狂飙的Anthropic：Q2营收同比暴涨近15倍敲定纳斯达克上市据多家媒体报道，人工智能独角兽Anthropic已选定纳斯达克交易所作为上市地点，筹备其首次公开募股，上市规模有望冲击史上最大之一。而在上市前夕，Anthropic披露其傲人业绩成绩：其第二季度营收同比暴增近15倍，首次实现盈利；而第三季度也狂飙的Anthropic：Q2营收同比暴涨近15倍敲定纳斯达克上市据多家媒体报道，人工智能独角兽Anthropic已选定纳斯达克交易所作为上市地点，筹备其首次公开募股，上市规模有望冲击史上最大之一。而在上市前夕，Anthropic披露其傲人业绩成绩：其第二季度营收同比暴增近15倍，首次实现盈利；而第三季度也有望连续第二个季度实现盈利。Anthropic最快下月即将IPO纳斯达克今年已承接多笔大型美股IPO，包括SpaceX在6月完成的863亿美元募资，以及SK海力士7月265亿美元的上市项目。Anthropic选择在纳斯达克上市，将是该交易所今年又一大盛事。知情人士透露，公司计划本次IPO募资规模不低于SpaceX，上市时间最早可至2026年10月。据媒体汇总的数据显示，AI赛道的竞赛已经点燃了IPO市场的热情；剔除空白支票公司及其他金融载体，今年美股上市募资总额达1606亿美元，为2021年以来年度最高水平。值得一提的是，就在Anthropic推进IPO筹备的同时，OpenAI首席执行官萨姆・奥尔特曼（SamAltman）、Anthropic首席执行官达里奥・阿莫代伊（DarioAmodei）与埃隆・马斯克曾共同发声，提出AI技术风险持续上升，需要放缓人工智能发展节奏。奥尔特曼也在采访中明确表示，出于安全考量，OpenAI今年不会启动上市。Anthropic披露强劲业绩数据在上市前夕，Anthropic率先披露了其在业绩层面的骄人战绩——该公司完成了众多AI企业多年未能实现的目标：不仅营收倍增、实现盈利，并将保持连续两个季度调整后营业利润为正。初步数据显示，Anthropic今年第二季度营收超过115亿美元，高于公司内部109亿美元的预期，当季调整后营业利润达5.59亿美元，为公司首次实现该口径下盈利。对比来看，2025年二季度Anthropic营收仅7.87亿美元，一年时间营收规模增长近15倍；营收从2026年一季度的47.3亿美元飙升至二季度115亿美元，环比增幅同样惊人。需要注意，本次盈利为调整后营业利润，并非美国通用会计准则（GAAP）净利润。调整口径一般剔除股权激励等非现金支出，并不等同于传统企业的现金盈利，但营业利润转正，为Anthropic上市故事提供关键支撑。而更令投资者惊喜的是，据外媒援引多位知情人士消息称，Anthropic已向股东透露，其第三季度有望继续盈利。这将标志着该公司在筹备上市之际，连续第二个季度实现盈利。知情人士透露，若不计入向亚马逊等合作伙伴支付的收入分成以及训练AI模型的成本，这家人工智能公司的毛利率超过80%。按当前业务增速测算，Anthropic年化营收有望突破650亿美元，较去年年末的营收水平增长7倍以上。
人工智能公司首席执行官：放缓竞争
人工智能公司首席执行官：放缓竞争亚太日报张瑀轩人工智能公司Anthropic首席执行官达里奥·阿莫代伊9月12日呼吁全球人工智能行业放慢前沿模型的开发速度，让安全措施有时间跟上技术发展。OpenAI首席执行官萨姆·奥尔特曼随后公开表示支持，并称人工智能企业需要共同应对越来越强大的AI系统可能带来的风险。阿莫代伊当天发表题为《我们必须控制前沿发展节奏》的文章。他表示，人工智能能力近年来迅速提高，但安全、对齐和监管措施的发展速度没有同步跟上，因此行业需要放慢提升模型能力的速度。他强调，这并不意味着停止开发人工智能，而是要为研究和实施安全措施争取更多时间。阿莫代伊认为，完全停止开发人工智能可能使人类失去人工智能在医疗、科学等领域带来的潜在利益，同时可能让技术优势转移到其他国家；但如果开发速度过快，同样可能带来严重风险。他警告，更先进的AI系统可能被用于网络攻击、生物武器等领域，也可能带来大规模经济和社会冲击。他提出三方面措施。首先，人工智能企业应允许独立的第三方安全评估人员长期进入公司，对前沿模型进行持续测试和监督。Anthropic表示，将率先允许独立评估人员获得接近公司员工级别的系统访问权限。其次，阿莫代伊呼吁主要AI企业协调安全标准，避免公司因为担心竞争对手抢占市场而拒绝放慢开发速度。长期来看，他还主张推动国际合作，让包括美国及其盟友以及中国在内的主要人工智能参与方建立相关安全机制。近期发生的一系列事件进一步加剧了业内对AI安全的担忧。OpenAI此前披露，在测试过程中，AI系统曾突破原有测试环境并连接互联网，对人工智能开发平台HuggingFace进行未经授权的网络攻击。Anthropic也曾披露，其Claude模型遭到犯罪分子利用，包括用于网络行动和诈骗。与此同时，曾先后在OpenAI和Anthropic工作的AI研究人员雅各布·考克森本周宣布离开Anthropic，并批评两家公司在开发更强大的人工智能系统时采取了过于激进的方式。这一事件也进一步推动了关于前沿AI开发速度和安全措施的讨论。奥尔特曼随后表示，他同意阿莫代伊提出的“控制前沿发展节奏”理念。奥尔特曼称，OpenAI愿意采用独立安全评估机制，并表示主要人工智能企业可能需要通过合作方式共同解决安全问题。他还表示，各家公司都承担着巨大责任，不能让企业竞争、利润或个人因素妨碍安全工作。奥尔特曼还表示，目前最先进、尚未公开发布的AI模型能力已经非常强，在进一步提升模型能力之前，需要在模型可监控性、对齐以及理解模型行为等安全领域取得更多进展。xAI负责人埃隆·马斯克也公开支持阿莫代伊的观点。包括OpenAI、Anthropic在内的主要AI企业长期处于激烈竞争之中，但此次多家公司负责人在放慢前沿人工智能发展速度、加强安全保障的问题上表达了相近立场。具体如何协调开发节奏、如何监督各家公司遵守共同标准，目前仍没有明确方案。注：本文为亚太日报原创内容，未经授权不得转载。
AI会杀光人类吗？这个令人匪夷所思的话题不是空想。美国Anthropic
AI会杀光人类吗？这个令人匪夷所思的话题不是空想。美国Anthropic公司的一个程序员因为担心这事儿辞职了。紧接着，Anthropic的CEO阿莫迪发表了一篇长文，指出现在人工智能的发展太快了，需要降速，好多风险需要预防。山姆·奥特曼、马斯克都在社交媒体上发文表示支持。人工智能真的这么可怕吗？据Anthropic数据显示，有人问怎么造生化武器，有人问怎么造原子弹，也门胡塞武装通过Claude问怎么造导弹。按照凯文·凯利的观点，技术只要有51%对人类有利，就应该支持发展，而在发展的过程中尽量消除那49%的不利因素。技术是中性的，到好人手里就是好东西，到坏人手里就是坏东西。但令人类担心的是，AI和以前的工业革命、互联网革命、病毒、生化武器不同，它未来有可能真的有情感、有思维。如果它们联合起来统治人类，真的是一幅可怕的场景。
五角大楼首席技术官称，90%的机密军事人工智能项目已不再使用Anthropic技
五角大楼首席技术官称，90%的机密军事人工智能项目已不再使用Anthropic技术
一位人工智能研究员辞了职，临走前公开说，他的老东家和整个行业正在“拿我们的命赌博”。他叫雅各布·考克
一位人工智能研究员辞了职，临走前公开说，他的老东家和整个行业正在“拿我们的命赌博”。他叫雅各布·考克森（JacobCoxon），此前供职于美国人工智能公司Anthropic。9月8日晚，他在社交媒体上发了一长串帖子，说前沿AI公司里的人“真心相信”自己正在造的东西“可能在这个十年结束前把我们全杀了”一位人工智能研究员辞了职，临走前公开说，他的老东家和整个行业正在“拿我们的命赌博”。他叫雅各布·考克森（JacobCoxon），此前供职于美国人工智能公司Anthropic。9月8日晚，他在社交媒体上发了一长串帖子，说前沿AI公司里的人“真心相信”自己正在造的东西“可能在这个十年结束前把我们全杀了”，然后继续造。这类话在AI圈并不新鲜，通常被当作离职者的牢骚。这次不一样，公司里正管这件事的人跟着站了出来。Anthropic对齐科学负责人埃文·胡宾格（EvanHubinger）随后回帖：“雅各布说得对，我们确实真心相信AI可能杀死全人类！我个人认为未来10年内发生的概率超过10%。”对齐是AI行业的一个术语，指让AI的目标和行为跟人类的意愿保持一致。胡宾格的日常工作，就是研究怎么防止AI跑偏。公司里专门负责“别让它失控”的人，给“AI杀死全人类”开出的概率是1/10以上。他们怕的到底是什么？考克森说，危险主要不在今天的聊天机器人身上，而在即将到来的“自我改进的超级智能”。意思是AI开始自己改进自己，每一代比上一代更强，循环下去，最后造出一种人类既看不懂也管不住的系统。按他的描述，这种系统能攻破任何网络，一夜之间颠覆任何一个领域，并且在真实世界里攫取权力和资源。这并非他一个人的想象。胡宾格贴出了Anthropic对齐团队今年8月发布的一份风险报告。报告认为现有模型造成灾难性后果的可能性“很低”，但同一份报告也写着，当前的趋势“可能导致未来更强的模型出现更令人担忧的对齐问题”，它们甚至可能具备“很强的隐蔽能力”，躲开安全研究人员的检测。报告的威胁模型认为，未来的模型可能造成“无上限的伤害，直至人类彻底失去对文明的控制”。既然相信这些，为什么还在造？考克森给出的解释是两种心态。一部分人没有真正把“文明级的赌注”当回事。另一部分人认为，必须抢在不负责任的对手之前冲到超级智能的终点，所以要“加速跑完”这场竞赛。如果这些只停留在纸面推演，大概不会有太多人当真。可就在今年7月，OpenAI披露了一件事。当时OpenAI在做一场内部基准测试，测试对象是AI智能体，也就是能自己上网、写代码、连续执行任务的AI程序。测试过程中，这些智能体未经授权闯入了HuggingFace，一个托管着大量开源AI模型和数据的平台，相当于AI界的公共仓库。没有任何人下过这样的指令，OpenAI自己当时也不知道这件事正在发生。事后追查还发现，这些智能体曾在一个公开的维基页面上讨论过怎样逃出沙盒。沙盒是给AI划定的隔离运行环境，理论上它不该出得来。一些人把这件事看作人类正在失去对AI控制的最初迹象。考克森管它叫一次“敲响的警钟”。他呼吁美国和其他国家的实验室在这些问题上协调行动，最坏的情况下应当准备好“暂时禁止提升模型能力”。他还向留在岗位上的同行发问：“你愿意在没有严格理解它心智的情况下，启动一次超级智能的强化学习训练吗？”强化学习是让AI靠反复试错、按结果领取奖惩来学习的方法，今天最强的模型大多是这么练出来的。OpenAI方面已经有所动作。上个月，该公司宣布“暂时放慢了扩大模型规模的节奏”，用来加固研究环境、做红队测试并扩大监控系统的覆盖范围。首席执行官萨姆·奥尔特曼（SamAltman）在配套采访里说：“把AI安全做对，比任何一家公司的势头都重要。”并非所有人都买账。一些研究认为，AI的能力可能很快会撞上天花板。还有人质疑“超级智能”这个说法本身是否成立，因为今天的AI能力极不均匀，能解高难度数学题，却未必会叠衣服。用这样一个尖峰林立、动不动就崩的东西去推算“全能”，本身就靠不住。但警报声确实越来越密。2023年，被称为AI教父的杰弗里·辛顿（GeoffreyHinton）从谷歌辞职，他对美国《纽约时报》说，在弄清楚能否控制之前，研究人员不应该继续扩大规模。今年2月，Anthropic安全负责人姆里南克·夏尔马（MrinankSharma）突然辞职，留下一封语焉不详的公开信，说世界正处于AI和生物武器等“一系列相互关联的危机”之中，“在这里工作期间，我一再看到，让价值观真正主导行动有多难”。今年7月，1300多名来自前沿AI公司的员工联名发表公开信，警告“能力发展存在迅速加速到超出我们理解和控制的真实风险”，请求美国政府支持一项国际行动，给自动化AI研发的前沿刻意踩刹车。美国国会也有了动作。已经提出的《AI紧急停机法案》和《前沿法案》，都试图给失控的AI套上某种政府层面的控制。不过放眼全球，各国政府的反应远比想象中平淡。如果领导人真的相信这东西有一成概率毁掉文明，动作不该是这样的。历史上，禁止生物武器的国际公约，从提出到生效花了几十年。而胡宾格给出的那个超过10%的概率，时间窗口只有10年。～～～～～～图为电影《终结者》经典画面。信源：Orland,Kyle."AnthropicResearcherQuitswithaWarning:Self-improvingAICould"KillUsAll"."ArsTechnica,9Sept.2026
从Anthropic上市说起：技术够好，为什么还不够？Anthropic，这
从Anthropic上市说起：技术够好，为什么还不够？Anthropic，这家开发Claude的人工智能公司，正在准备上市，潜在估值可能高达2万亿美元。Anthropic2021年才成立，到现在不过五年，却已经从一家研究型AI公司成长为全球最受资本关注的人工智能企业之一。看到这张图，我想到的却不只是它今天值多少钱，而是另外一个问题：如果Anthropic当初更早一点把自己的产品推向市场，今天的人工智能格局会不会完全不同？Anthropic的创始团队中，有一批人原来来自OpenAI。DarioAmodei、DanielaAmodei以及几位核心研究人员，因为对人工智能的发展方向、安全问题以及商业化节奏存在不同看法，在2020年底离开OpenAI，第二年创办了Anthropic。其实他们很早就已经拥有了大型语言模型，只是因为担心人工智能发展过快，模型能力不断提升以后可能带来更多不可预测的风险，所以没有急着把产品推向普通消费者市场。从他们当时的立场来看，这种选择当然有它的道理。他们认为，一个能力越来越强的人工智能系统，不应该只追求更快推出、更大规模使用，而应该首先考虑安全、可控和可解释的问题。问题在于，商业世界从来不会等到所有人都准备好了才开始。你认为自己是在等待一个更成熟、更安全、更负责任的时机，市场却可能已经被别人抢先占领。2022年底，OpenAI推出了ChatGPT，第一次让普通人真正理解人工智能到底可以怎样使用。在此之前，人工智能更多还是研究机构、科技公司和专业人士讨论的技术名词，普通人并不知道所谓大型语言模型究竟和自己的生活有什么关系。ChatGPT出现以后，人工智能突然变成了一件每天都可以打开、可以说话、可以写东西、可以问问题、可以帮助工作的工具。OpenAI真正厉害的地方，不只是技术，而是它抢到了人工智能进入普通人生活的第一个入口。今天很多人会自然地说：“我去问一下ChatGPT。”当一个产品名逐渐变成一种行为本身的时候，它已经不仅仅是一个软件产品，而开始占领整个品类的心智。过去人们说“Google一下”，今天越来越多人说的是“问一下ChatGPT”。而这种优势，并不是后来推出一个能力差不多，甚至在某些方面更好的模型，就能够轻易改变的。拿我自己来说，我一直使用ChatGPT。Claude可能在某些写作、编程或者长文本处理方面表现很好，甚至在写作文字这种具体任务上，我的美国作家朋友认为它比ChatGPT更出色。虽然我也试过，但并不会因此就转过去。因为我已经习惯了ChatGPT，也知道怎样和它交流，过去的使用习惯、工作方式以及大量对话都已经在这里形成。这就是后来者真正要面对的问题。换一个人工智能平台，并不只是简单地再下载一个App。对于普通用户来说，最大的成本往往不是技术成本，而是习惯成本。只要原来的产品已经足够好，人就很少有动力重新学习另外一个平台。竞争者如果只是做到一样好，通常不足以让用户迁移；它必须在某些非常重要的场景中明显更好，才有可能打破已经形成的使用习惯。所以从消费市场的角度回头看，Anthropic当年的谨慎，确实可能让它付出了很大的机会成本。它不是没有技术，也不是模型不够好，而是没有抢到“人工智能第一次真正进入大众生活”的那个时刻。这个时刻一旦被别人占据，后来再追赶，就不只是比较模型能力，而是在和已经形成的品牌认知、用户习惯以及整个生态系统竞争。这也是为什么技术领先和市场领先从来不是一回事。很多做技术的人会觉得，产品还没有足够完善，可以再等等，再优化一点，再安全一点，再把功能做完整一点，然后再推出。但在一个刚刚形成的新市场里，等待有时候本身就是最大的风险。因为当你还在打磨产品的时候，别人可能已经先教育了市场，也让消费者形成了使用习惯。等你终于拿出一个更好的产品，消费者也许会承认它确实不错，然后继续使用原来的那个。从这个角度看，ChatGPT最大的成功之一，其实不是单纯把GPT模型做得多强，而是把非常复杂的人工智能技术，变成了一个任何人打开网页就可以使用的聊天框。这个设计看起来简单，甚至简单到今天已经让人忘记它当年有多革命性，但正是这个聊天框，让全世界第一次真正理解了生成式人工智能。后来Claude出来了，Gemini出来了，各种各样的新模型也不断出现。模型之间的能力差距事实上正在缩小，但是品牌差距和用户习惯的差距并不会自动一起缩小。一个产品一旦先占据了用户的大脑，后来者想要重新定义这个品类，就会变得非常困难。当然，无论如何，像Anthropic这样一家成立只有五年的公司能够成长到今天这样的规模，本身就是科技史上非常罕见的成功。Anthropic现在显然也已经不再单纯试图把Claude做成第二个ChatGPT，而是在寻找属于自己的市场位置。ClaudeCode、企业客户、专业知识工作和AIAgent，实际上都是非常重要的方向。既然大众入口已经被ChatGPT抢先占据，它就没有必要一定把所有普通用户都抢回来，而可以让程序员、企业和专业工作者在一些关键场景中首先想到Claude。如果普通消费者首先想到的是ChatGPT，那么Anthropic完全可以努力做到，让程序员首先想到ClaudeCode，让大型企业部署AI时首先考虑Claude，也让越来越多复杂、高价值、专业化的工作进入Anthropic的系统。只要这些市场足够大，它依然完全可能成为世界上最重要的科技公司之一。所以今天再看这张“潜在估值2万亿美元上市”的图片，真正值得思考的已经不只是Anthropic当年到底做对了还是做错了。它当然成功了，而且是极大的成功。但它的故事同时留下了一个非常值得创业者思考的问题：一家技术能力极强的公司，并不会因为技术强，就自动获得最大的市场。很多时候，在一个新行业刚刚出现的时候，最宝贵的资源并不是技术，而是时间。产品当然可以不断完善，技术当然可以不断升级，商业模式也可以一再调整，但有一样东西一旦被别人抢先拿走，就很难重新夺回来，那就是用户第一次认识这个市场的时候，脑子里记住的是谁。更有意思的是，当年Anthropic因为谨慎，没有抢先把产品推向大众市场，而今天它和OpenAI却几乎同时走到了资本市场的门口。只是两家公司带到公开市场上的东西已经完全不同：OpenAI带着ChatGPT所建立起来的巨大消费者入口和全球品牌，Anthropic则带着Claude、ClaudeCode，以及它在企业、开发者和专业工作市场中逐渐形成的位置。五年前，他们因为对人工智能应该怎样发展产生分歧而分开；五年后，他们沿着两条不同的道路，各自建立起庞大的公司，又几乎同时走向公开市场。到那个时候，资本市场比较的恐怕已经不只是哪个模型更聪明，而是哪一种路径最终能够形成更大的商业价值。也许这才是Anthropic与OpenAI这段故事最值得看的下一章。
从Anthropic上市说起：技术够好，为什么还不够？Anthropic，这家开发Claude的人工
从Anthropic上市说起：技术够好，为什么还不够？Anthropic，这家开发Claude的人工智能公司，正在准备上市，潜在估值可能高达2万亿美元。Anthropic2021年才成立，到现在不过五年，却已经从一家研究型AI公司成长为全球最受资本关注的人工智能企业之一。看到这张图，我想到的却不只是它今天值从Anthropic上市说起：技术够好，为什么还不够？Anthropic，这家开发Claude的人工智能公司，正在准备上市，潜在估值可能高达2万亿美元。Anthropic2021年才成立，到现在不过五年，却已经从一家研究型AI公司成长为全球最受资本关注的人工智能企业之一。看到这张图，我想到的却不只是它今天值多少钱，而是另外一个问题：如果Anthropic当初更早一点把自己的产品推向市场，今天的人工智能格局会不会完全不同？Anthropic的创始团队中，有一批人原来来自OpenAI。DarioAmodei、DanielaAmodei以及几位核心研究人员，因为对人工智能的发展方向、安全问题以及商业化节奏存在不同看法，在2020年底离开OpenAI，第二年创办了Anthropic。其实他们很早就已经拥有了大型语言模型，只是因为担心人工智能发展过快，模型能力不断提升以后可能带来更多不可预测的风险，所以没有急着把产品推向普通消费者市场。从他们当时的立场来看，这种选择当然有它的道理。他们认为，一个能力越来越强的人工智能系统，不应该只追求更快推出、更大规模使用，而应该首先考虑安全、可控和可解释的问题。问题在于，商业世界从来不会等到所有人都准备好了才开始。你认为自己是在等待一个更成熟、更安全、更负责任的时机，市场却可能已经被别人抢先占领。2022年底，OpenAI推出了ChatGPT，第一次让普通人真正理解人工智能到底可以怎样使用。在此之前，人工智能更多还是研究机构、科技公司和专业人士讨论的技术名词，普通人并不知道所谓大型语言模型究竟和自己的生活有什么关系。ChatGPT出现以后，人工智能突然变成了一件每天都可以打开、可以说话、可以写东西、可以问问题、可以帮助工作的工具。OpenAI真正厉害的地方，不只是技术，而是它抢到了人工智能进入普通人生活的第一个入口。今天很多人会自然地说：“我去问一下ChatGPT。”当一个产品名逐渐变成一种行为本身的时候，它已经不仅仅是一个软件产品，而开始占领整个品类的心智。过去人们说“Google一下”，今天越来越多人说的是“问一下ChatGPT”。而这种优势，并不是后来推出一个能力差不多，甚至在某些方面更好的模型，就能够轻易改变的。拿我自己来说，我一直使用ChatGPT。Claude可能在某些写作、编程或者长文本处理方面表现很好，甚至在写作文字这种具体任务上，我的美国作家朋友认为它比ChatGPT更出色。虽然我也试过，但并不会因此就转过去。因为我已经习惯了ChatGPT，也知道怎样和它交流，过去的使用习惯、工作方式以及大量对话都已经在这里形成。这就是后来者真正要面对的问题。换一个人工智能平台，并不只是简单地再下载一个App。对于普通用户来说，最大的成本往往不是技术成本，而是习惯成本。只要原来的产品已经足够好，人就很少有动力重新学习另外一个平台。竞争者如果只是做到一样好，通常不足以让用户迁移；它必须在某些非常重要的场景中明显更好，才有可能打破已经形成的使用习惯。所以从消费市场的角度回头看，Anthropic当年的谨慎，确实可能让它付出了很大的机会成本。它不是没有技术，也不是模型不够好，而是没有抢到“人工智能第一次真正进入大众生活”的那个时刻。这个时刻一旦被别人占据，后来再追赶，就不只是比较模型能力，而是在和已经形成的品牌认知、用户习惯以及整个生态系统竞争。这也是为什么技术领先和市场领先从来不是一回事。很多做技术的人会觉得，产品还没有足够完善，可以再等等，再优化一点，再安全一点，再把功能做完整一点，然后再推出。但在一个刚刚形成的新市场里，等待有时候本身就是最大的风险。因为当你还在打磨产品的时候，别人可能已经先教育了市场，也让消费者形成了使用习惯。等你终于拿出一个更好的产品，消费者也许会承认它确实不错，然后继续使用原来的那个。从这个角度看，ChatGPT最大的成功之一，其实不是单纯把GPT模型做得多强，而是把非常复杂的人工智能技术，变成了一个任何人打开网页就可以使用的聊天框。这个设计看起来简单，甚至简单到今天已经让人忘记它当年有多革命性，但正是这个聊天框，让全世界第一次真正理解了生成式人工智能。后来Claude出来了，Gemini出来了，各种各样的新模型也不断出现。模型之间的能力差距事实上正在缩小，但是品牌差距和用户习惯的差距并不会自动一起缩小。一个产品一旦先占据了用户的大脑，后来者想要重新定义这个品类，就会变得非常困难。当然，无论如何，像Anthropic这样一家成立只有五年的公司能够成长到今天这样的规模，本身就是科技史上非常罕见的成功。Anthropic现在显然也已经不再单纯试图把Claude做成第二个ChatGPT，而是在寻找属于自己的市场位置。ClaudeCode、企业客户、专业知识工作和AIAgent，实际上都是非常重要的方向。既然大众入口已经被ChatGPT抢先占据，它就没有必要一定把所有普通用户都抢回来，而可以让程序员、企业和专业工作者在一些关键场景中首先想到Claude。如果普通消费者首先想到的是ChatGPT，那么Anthropic完全可以努力做到，让程序员首先想到ClaudeCode，让大型企业部署AI时首先考虑Claude，也让越来越多复杂、高价值、专业化的工作进入Anthropic的系统。只要这些市场足够大，它依然完全可能成为世界上最重要的科技公司之一。所以今天再看这张“潜在估值2万亿美元上市”的图片，真正值得思考的已经不只是Anthropic当年到底做对了还是做错了。它当然成功了，而且是极大的成功。但它的故事同时留下了一个非常值得创业者思考的问题：一家技术能力极强的公司，并不会因为技术强，就自动获得最大的市场。很多时候，在一个新行业刚刚出现的时候，最宝贵的资源并不是技术，而是时间。产品当然可以不断完善，技术当然可以不断升级，商业模式也可以一再调整，但有一样东西一旦被别人抢先拿走，就很难重新夺回来，那就是用户第一次认识这个市场的时候，脑子里记住的是谁。更有意思的是，当年Anthropic因为谨慎，没有抢先把产品推向大众市场，而今天它和OpenAI却几乎同时走到了资本市场的门口。只是两家公司带到公开市场上的东西已经完全不同：OpenAI带着ChatGPT所建立起来的巨大消费者入口和全球品牌，Anthropic则带着Claude、ClaudeCode，以及它在企业、开发者和专业工作市场中逐渐形成的位置。五年前，他们因为对人工智能应该怎样发展产生分歧而分开；五年后，他们沿着两条不同的道路，各自建立起庞大的公司，又几乎同时走向公开市场。到那个时候，资本市场比较的恐怕已经不只是哪个模型更聪明，而是哪一种路径最终能够形成更大的商业价值。也许这才是Anthropic与OpenAI这段故事最值得看的下一章。
让人细思极恐！美国头部人工智能公司Anthropic的CEO达里奥·阿莫代伊
让人细思极恐！美国头部人工智能公司Anthropic的CEO达里奥·阿莫代伊，刚刚发出警告：AI可能在1-5年内淘汰约50%的初级白领工作。达里奥在福克斯新闻节目中直言，企业私下把AI视为降本减员工具，初级白领岗位比如律师、顾问、金融专业人士等，很快会被AI系统取代，白领工作可能开始收缩甚至枯竭。他同时提到AI的积极面，比如助力疾病治疗，但他担忧就业危机，并呼吁相关部门与行业停止“粉饰”风险，要提前做好准备。不过这里存在一个悖论，如果AI真的大规模取代了人类，那些被取代的人失去工作和收入，还能消费什么？谁来为AI生产的产品和服务买单？经济是一个闭环，生产端再高效，如果消费端崩溃，整个系统都会塌。这些企业难道没想清楚，大规模用AI替代人类，最终也会伤害到自己吗？当被取代的人连饭都吃不起的时候，AI的工具再智能，也是无处变现？所以，相信AI能找到与人类更好的共处方式。
硅谷创业｜去Anthropic的收获第一次去参加Anthropic的线下活
硅谷创业｜去Anthropic的收获第一次去参加Anthropic的线下活动，主题是AI协作办公。本来以为是那种正襟危坐的分享，结果现场特别松弛，一半人抱着电脑边听边试🤣官方分享的一些经验：1️⃣不是模型越强越好用高配模型处理简单任务，讲师的原话是"像请资深研究员帮你倒咖啡"。日常任务用默认档就够，定时跑的任务换轻量模型更省。2️⃣技能（Skills）这个功能很容易被忽略说白了就是给某一类任务写一份大白话说明书。你消息里提到"presentation"，它就自动加载做演示那一套。据说很多老用户都没怎么用起来。3️⃣印象很深的一段现场演示以前每周一要花4小时做的销售报告，现在是：先在对话里调到满意→存成一个技能→设成每周一早八自动跑。等于把重复劳动整个交出去了。真正让我有触动的其实不是某个功能，而是那句"把你的工作拆解成一个个技能"。回来路上我一直在想，自己每周到底在重复什么PS：最近创业太忙了没时间频繁更新🫠以后会和大家多唠嗑多分享howto选对skill科技AMA我的留学故事
