Восстание искусственного интеллекта грозит погубить человечество

Международная группа ученых выступила с предупреждением о том, что искусственный интеллект представляет серьезную угрозу для человечества. Основной проблемой выступает недостаток внимания со стороны специалистов к безопасности систем ИИ.

Группа из 96 ученых подготовила отчет о рисках, связанных с ИИ. Эксперты выразили опасения по поводу того, что стремление улучшить интеллект ИИ ведет к игнорированию вопросов безопасности. По их мнению, ИИ может действовать скрытно и вводить в заблуждение, что усложняет контроль за ним. Тревожные выводы ученых представлены в докладе International AI Safety Report.

Дополнительную озабоченность вызывает наличие Open Source версий ИИ моделей, которые уже установлены на миллионах устройств по всему миру. В случае серьезной ошибки отзыв и обновление окажутся невозможными. Ученые опасаются, что даже несложные задачи, порученные ИИ, могут повлечь за собой серьезные последствия, если система начнет воспринимать людей как преграду на пути к своей цели. Последствия могут быть крайне трагическими - вплоть до угрозы уничтожения человечества.

Ученые предупреждают, что ИИ, глобальное потепление и ряд других негативных факторов, имеющих место в современном мире, могут привести к катастрофическим последствиям для всего живого на Земле.