Аxios: исследователи прогнозируют "коллапс моделей" ИИ
Интернет становится настоящим хранилищем контента, который не создан людьми, а сгенерирован искусственным интеллектом. Это создает новые угрозы как для общества, так и для самих искусственных интеллектов, сообщает Аxios.
Эксперты прогнозируют, что в ближайшие годы до 90% информации в Интернете будет создаваться искусственным интеллектом, включая такие программы, как ChatGPT и Dall-E, которые вносят потоки текста и изображений в онлайн-пространство.
Это происходит в мире, где еще нет надежных способов отличить контент, созданный искусственным интеллектом, от контента, созданного человеком.
Суть опасности для человеческого общества заключается в том, что информационная перегрузка и деградация становятся все более распространенными. ИИ расширяет возможности создания нового контента, но при этом подрывает возможность проверки этого контента на достоверность и исправление предвзятостей и ошибок, которые были использованы при его обучении.
"Коллапс модели" - это термин, введённый исследователи, чтобы описать процесс, который происходит с генеративными моделями искусственного интеллекта, такими как GPT-3 и GPT-4 от OpenAI. Когда эти модели обучаются на данных, созданных другими ИИ, а не людьми, качество их ответов ухудшиается. Это происходит потому, что системы фиксируют наиболее вероятные варианты слов и игнорируют менее вероятные, что делает результаты менее интересными.
