前Google CEO呼吁设立AI紧急关闭机制

前Google CEO Eric Schmidt警告称，随着AI系统的日益强大和自主性提高，可能对人类构成前所未有的威胁。在接受美国广播公司专访时，他提出需要审慎思考是否设置紧急关闭机制。

Schmidt指出，AI技术正以惊人速度发展，美国必须赢得与中国的全球竞争。他表示，若能掌控全球AI发展，将采取两项措施：确保西方国家胜出，并建立第二套系统监控第一套系统。

他认为，AI将从特定任务型代理程序发展成能独立决策的更复杂系统，届时人类必须介入并考虑关闭系统。

Schmidt预测，AI可能被要求学习一切、做一切，这将达到危险的临界点。他强调，随着AI系统变得愈来愈自主，可能对人类构成新的、更严重的威胁。

然而，他也提到AI的正面效益，认为AI将带来巨大智能，使每个人拥有博学之士、爱因斯坦和达文西等建议者。

为确保人类在享受AI好处的同时不受损害，Schmidt呼吁各国政府开始监管AI，并强调设置紧急关闭机制的重要性。