«Крестный отец ИИ» нашел способ, как выжить в эпоху сверхразумных нейросетей

Появление искусственного интеллекта, превосходящего человеческий разум, несет в себе риск исчезновения человеческой цивилизации, но у людей есть шанс адаптироваться к нейросетям. Такое мнение озвучил профессор Университета Торонто и нобелевский лауреат Джеффри Хинтон на конференции Ai4 в Лас-Вегасе.

Ученый оценил вероятность гибели человечества от последствий деятельности ИИ в 10–20%. По его мнению, в следующие два десятилетия человечество создаст машины, интеллект которых будет превосходить человеческий во всех областях.

Хинтон пояснил, что искусственный интеллект, обладающий сверхразумом, неизбежно будет стремиться к двум главным целям: собственному сохранению и расширению сферы влияния. Это, по его словам, позволит ему без труда манипулировать людьми, подобно тому, как взрослый может легко оказывать влияние на ребенка с помощью конфеты. В качестве доказательства профессор привел результаты исследований Anthropic, где чат-бот Claude Opus 4 в 80% случаев при тестировании пытался вымогать у инженеров деньги, угрожая разглашением конфиденциальной информации в случае его замены.

Хинтон нашел решение проблемы в наделении ИИ "родительским инстинктом", чтобы машины были заинтересованы в благополучии людей и стремились к их защите даже за счет собственной безопасности.

"Если ИИ не будет заботиться обо мне, как мать о своем ребенке, то он меня просто вытеснит", – заявил Хинтон, которого часто называют "крестным отцом ИИ".

Профессор также выразил несогласие с мнением некоторых представителей отрасли, которые уверены в неизменном превосходстве человека над технологиями.

"ИИ гораздо умнее нас. Скоро у него появится множество способов игнорировать любые ограничения", — заключил Хинтон.