人脑和AI都有黑箱 AI冲击面恐超乎预期

非营利组织Future of Life Institute呼吁所有人工智能（AI）实验室至少半年内暂停训练比OpenAI GPT-4模型更加强大的AI系统。不过前Google副总裁Geoffrey Hinton认为，现在不应该停止AI的研究，反而要竭尽全力找出应对未来AI风险的方法。中央研究院欧美研究所曾站在社会科学的角度看AI带来的挑战与风险，所得到的讨论结果是AI的冲击面恐超乎预期。

中央研究院欧美研究所的研究发现，AI自2010年以来在深度学习等方面有重大突破之后，就已逐渐应用于物联网（IoT）、区块链、电子商务、工业自动化、智能制造、智能交通、军事等不同领域，是影响深远之关键科技。AI的冲击已涉及法律、哲学、社会、科技、产业及政策等问题，甚至会对民主、法治及国际规范皆构成严峻挑战。

有学者发现，AI预测的不可解释性是来自于人类的认知限制，而且AI的黑箱问题在人类大脑上也有，两者只是程度上的差异。至于AI伦理准则，应包含2项消极义务，即不可以用伤害生命健康来威胁人类，或对人类生态系统带来毁灭性的伤害。不过，若在军事应用上，AI在设计上不可能遵守这项准则。

研究认为，AI是一种具有双重面向及多重用途之科技，依据科学中立原则，AI如果仅是科技创新，将如同机器人，其好坏主要取决于人类之使用。然而，AI的黑箱和信息不对称性，在AI的力量变强大时，仍有需要受到必要规范，兼顾伦理道德，以避免AI产生歧视、寡占、不当使用或滥用。

至于要如何界定AI的规范原则及管制模式，学者提出可从哲学反思及相关论证做起。法律原则主要规范AI延伸相关问题，在哲学与法律架构下，调合科学创新与风险管控，才能形塑可信赖的AI制度。