Группа экспертов считает, что искусственный интеллект уровня выше GPT-4 может нести серьезную опасность.
Миллиардер Илон Маск, соучредитель Apple Стив Возняк и ряд директоров крупных компаний призвали приостановить обучение нейросетей, следует из опубликованного открытого письма.
Эксперты считают, что приостановка должна касаться всех лабораторий искусственного интеллекта и быть публичной. По их мнению, если паузу в обучении нельзя взять быстро, то в дело обязаны вмешаться правительства стран и ввести мораторий. Они утверждают, что слишком «умные» нейросети могут нести серьёзную опасность.
«Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффект будет положительным, а риски управляемыми».
Отрывок из открытого письма
По мнению учёных и бизнесменов, все компании должны приостановить создание искусственного интеллекта мощнее GPT-4. Эта нейросеть на данный момент считается наиболее продвинутым искусственным интеллектом. GPT-4 представила компания Open AI несколько недель назад. Нейросеть умеет анализировать сложнейшие запросы на 26 языках, причём может принимать информацию не только в текстовом, но и в виде изображения. Разработчики утверждают, что потратили около шести месяцев на то, чтобы сделать GPT-4 более безопасной и устранить нежелательные ответы на запросы. В итоге вероятность получить ответ с запрещенной информацией снизилась на 82%.
Среди подписавших открытое письмо значатся соучредители Pinterest, Skype, научные сотрудники британской компании DeepMind, работающей с искусственным интеллектом, а также лауреат премии Тьюринга за разработку глубокого обучения, глава Монреальского института алгоритмов обучения Йошуа Бенгио и профессор компьютерных наук из университета Беркли Стюарт Рассел.
