Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

12/12/2017 - 04:21
Искусственный интеллект вырывается из-под контроля: ученые перестали понимать, как он работает

Проблемы искусственного интеллекта обсудили ученые и программисты в рамках научной конференции, состоявшейся в Лонг-Бич (Калифорния). Сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ.

Ученые хотят разобраться в вопросе, каким образом искусственный интеллект принимает решения. Причем сделать это необходимо уже сейчас, пока система не стала еще более сложной.

«Мы не хотим принимать за должное решения ИИ, без понимания их логики. Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения», - считает специалист компании Uber Джейсон Йосински.

Эксперты согласились, что проблема, которая получила название «черная коробочка», действительно серьезная. Эксперименты показывают, что ИИ склонен принимать предвзятые решения и искать ненужные аналогии. Ошибки ИИ могут стоить человечеству очень дорого. Скажем, во время миссии на Марс, когда космические аппараты стоимостью миллионы долларов находятся в далеком космосе, ошибки просто недопустимы.

Ученые пытаются решить проблему и найти методы, позволяющие понять логику ИИ. Сотрудник Google Мэтра Рагху рассказала о своем исследовании, в ходе которого она отслеживала действий отдельных «нейронов» нейросети. Проведя анализ более миллиона операций, она смогла понять, какие из искусственных «нейронов» сосредоточивались на неверных представлениях, и успешно их отключила. В своем докладе исследователь доказывает, что работу нейросетей можно перевести в форму, доступную для понимания человека.

Читайте также: Искусственный интеллект через 60 лет может стать убийцей человечества - прогнозы ученых

Источник: 
Наука и технологии
автор:
Алиса СЕЛЕЗНЕВА

Новости партнеров: