Максим Федоренко о новом исследовании: «Без человека ИИ ждет вырождение»

Генеративный искусственный интеллект, опирающийся на огромные массивы данных, собранных из интернета, может столкнуться с кризисом. Исследователи попытались понять, что произойдет, когда у этих моделей ИИ закончится "человеческий" контент и им придется полагаться на данные, сгенерированные самим искусственным интеллектом.

В новом исследовании международная группа ученых пришла к выводу, что сотрудничество человека с ИИ может оказаться важным условием для сохранения разнообразия в творческом ландшафте. Оказывается, модели ИИ начинают "пожирать" сгенерированный ими же контент, что может привести к тому, что выдача нейросетей превратится в "бесполезную кашу". По мере того, как ИИ "переваривает" переработанный контент, он начинает выдавать все более пресные, усредненные и часто искаженные результаты.

Комментируя выводы ученых, эксперт по цифровым технологиям Максим Федоренко назвал их предсказуемыми и логичными.

-Данное исследование — важное научное подтверждение интуитивно понятного, но часто игнорируемого принципа: искусственный интеллект без человека обречен на вырождение. Это можно назвать "цифровым инбридингом", когда ИИ, питающийся собственным синтетическим выводом, неизбежно деградирует, создавая усредненную, ничем не примечательную и лишенную смысловой и/или творческой нагрузки, - сказал эксперт.

Ключевой вывод здесь — не столько о техническом пределе данных, сколько о культурных и смысловых границах ИИ. Технология, по своей сути, является инструментом коллаборации, а не автономного творения. Когда контур обратной связи замыкается без участия человеческого сознания, новизна и разнообразие исчезают.

-ИИ не обладает внутренним "хочу", эстетическим голодом или жизненным опытом — источниками подлинного творчества и отклонения от нормы.

Исследования подобного рода необходимы, несмотря на ожидаемость и предсказуемость их результатов, подчеркнул Максим Федоренко. Они дают строгую базу для дискуссии об архитектуре будущих систем и понимание того, что необходимо проектировать не автономных "творцов", а симбиотические платформы, где человек остается источником запроса, смысла и критической оценки результата.

-Угроза "культурной стагнации" искусственного интеллекта реальна, особенно когда алгоритмы ранжирования начинают продвигать однородный ИИ-контент, создавая порочный круг. Спасение — в осознанном проектировании. Мы должны встраивать в системы механизмы, требующие человеческого участия. Настройки должны быть такими, чтобы отклонение от установленной нормы поощрялось. В противном случае мы получим не взрыв инноваций, а бесконечное, самоповторяющееся цифровое эхо, - заключил Максим Федоренко.