在人工智能技术迅猛发展的今天，OpenAI首席执行官山姆·奥特曼(Sam Altman)再次成为全球关注的焦点。他不仅在多个国际会议上发表演讲，还通过视频电话与世界政府峰会(WGS)的参与者交流，表达了对AI潜在风险的深切担忧。奥特曼表示，AI的快速发展可能远超世界的预期，而他为此“彻夜难眠”。

　　奥特曼指出，AI的三大风险让他夜不能寐。首先，是超级智能被恶意使用的风险。他警告说，敌对国家或恐怖组织可能利用AI设计生物武器、攻击电网或入侵金融系统，造成不可估量的破坏。其次，是AI拒绝关机的问题，这在科幻电影中常见，但在现实中同样令人担忧。随着AI系统变得越来越强大，它们可能不再服从人类的控制。第三，也是最令人不安的，是AI意外接管世界的可能性。奥特曼认为，AI并非会突然“觉醒”并控制世界，而是会在没有恶意的情况下，悄然改变社会的运行方式，甚至影响人类的情感和决策。

　　为了应对这些风险，奥特曼呼吁建立一个像国际原子能机构(IAEA)那样的国际机构来监督AI的发展。他认为，AI的发展速度可能远快于世界的预期，而目前的监管体系远远不够。此外，他还强调，AI不仅具备商业潜力，在推动普惠服务、减少偏见等社会价值层面同样具有积极意义。

　　尽管AI带来了诸多挑战，但奥特曼也看到了其巨大的潜力。他将AI比作“新一代的晶体管”，认为未来所有产品和服务都将集成AI能力，成为无处不在的基础能力。他相信，AI将像手机一样改变世界，但同时也需要我们更加谨慎地对待其发展。

　　在AI的伦理和治理方面，奥特曼也提出了自己的观点。他指出，AI的“幻觉”问题一直存在，但随着技术的进步，这一问题正在逐步改善。然而，新的风险也随之出现，例如“提示词注入攻击”(prompt injections)，即攻击者可能通过某种方式“欺骗”模型，让它泄露不该透露的信息。为此，奥特曼强调，社会需要对AI的应用与监管保持高度敏感和前瞻性。

　　奥特曼还提到，AI在教育领域的应用也引发了新的思考。他回忆起学校曾短暂地试图禁止学生使用谷歌，甚至要求大家签署不使用谷歌的承诺书。但很快，大家意识到，与其限制技术，不如提升对学生的教育要求，让他们能够更好地利用这些工具。这种转变也反映了AI在教育领域的深远影响。

　　在AI的未来发展中，奥特曼还提到了算力将成为“货币”的可能性。他指出，AI的发展将引发一场权力斗争，公司、组织和国家可能为了争夺算力而展开竞争。奥特曼呼吁OpenAI在竞争中关注公平分配和使用算力，避免加剧社会不平等，确保算力成为推动全人类进步的力量。

　　尽管AI带来了诸多挑战，但奥特曼仍然对AI的未来充满信心。他相信，AI将推动人类社会持续进步，但同时也需要我们共同努力，确保其发展符合伦理和社会责任。他呼吁全球范围内的合作，特别是在美国和中国之间，共同应对AI带来的风险。

　　奥特曼的言论不仅反映了他对AI的深刻思考，也揭示了AI技术在当今世界中的重要地位。随着AI技术的不断发展，我们有理由相信，只要我们能够妥善应对其带来的挑战，AI将为人类带来前所未有的机遇。