纳德拉：应假设所有AI模型都已被攻陷，并从一开始就加以控制
微软CEO萨提亚·纳德拉在X发长文谈高级AI模型风险，主张默认模型已被攻陷、从一开始就控制，并让授权人员随时能暂停或关闭执行任务的模型。
AI解读：纳德拉提出应默认AI模型已被攻陷，并从一开始就加以控制，用“紧急刹车”的比喻说明授权人员应能随时暂停或关闭执行中的模型。
他反对把AI当作“层层嵌套的黑盒”，只接受或拒绝其建议和行动，主张建立更透明的系统，让模型可被控制、观察，并留下防篡改、人类可读的证据。
他提出的措施包括及时披露事件、独立审计、可验证数据和模型控制，其中在控制方面比业内一些人的主张走得更远，并称更高级的模型需要更高级的控制技术并加以标准化。
微软CEO萨提亚·纳德拉在X发布长文，阐述他对高度先进AI模型风险的看法及应对方式。
纳德拉表示，不能再接受把AI当作“层层嵌套的黑盒”、只接受或拒绝其建议和行动的世界，他呼吁建立更透明的系统，让模型可被控制、观察，并留下“防篡改、人类可读的证据”。
纳德拉的具体主张
他提出的建议包括及时披露事件、独立审计、可验证数据和模型控制。
在控制方面，纳德拉称应假设模型已被攻陷，并从一开始就加以控制，把它想象成紧急刹车：授权人员应始终能够在模型执行任务中途暂停或关闭它。
他还表示，更高级的模型将需要更高级的控制技术，这些技术需要标准化。
The Verge的报道指出，纳德拉在整篇帖子中把AI称为“超级智能”。