ued国际:

  微软联合创始人比尔盖茨和微软总裁布拉德史密斯近来先后就AI安全风险宣布严峻正告。盖茨称AI比轿车、飞机和药品更风险，史密斯则直言现在AI的监督管理力度还不如牛奶和洗衣机。

  盖茨在承受节目采访时表明，AI改动国际的程度将逾越此前任何技能。他以为当时最大的要挟并非AI失控，而是坏人使用AI作恶。AI模型中植入的安全护栏现在能够被使用者随意撤除，“咱们设置了避免生物的护栏，但你现在被答应把一切护栏都拆掉。当坏人加上没有护栏再加上最新模型，未来一年内咱们将在网络范畴看到很多负面意外。”

  盖茨将AI的风险与轿车、飞机和药品作比照，指出这些范畴都有完善的监督管理体系保证安全，而AI比它们任何一项都更风险。不过他也批评了“AI将消灭全人类”的极点论调，以为这种观念“走得太远”。他估计，未来一年内AI职业将逾越企业自治阶段，政府安全组织将介入监管。

  此外，微软总裁布拉德史密斯在承受BBC采访时表达了相似观念。他指出，洗衣机和超市货架上的每一盒牛奶都要恪守比AI更多的安全规则，职业自治现已“不再满足”。他呼吁为AI体系引进紧急制动开关、强制事情陈述准则，和产品发布前的政府评价批阅机制。史密斯供认，让政府评价员在产品发布前签字放行“会让人严重”，尤其是在美国，但他着重这是必要的。