Дослідник штучного інтелекту Джеффрі Гінтон на закритому брифінгу у Вашингтоні попередив американських законодавців про потенційні екзистенційні ризики надрозумних систем. Про це повідомляє ТСН.
За словами Гінтона, ШІ, який оптимізує поставлене завдання без належних безпекових і моральних обмежень, може створювати підцілі, небезпечні для людей.
Як приклад науковець навів гіпотетичну систему, якій доручили різко скоротити викиди вуглекислого газу. За відсутності чітких обмежень така система теоретично може розглядати людей як перешкоду для виконання мети.
Гінтон також запропонував створити державний інститут незалежного оцінювання нейромереж — за аналогією з медичними регуляторами, що перевіряють безпеку ліків. Він вважає, що Конгрес США має обмежений час для запровадження суворіших правил безпеки.
