Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и больше тысячи экспертов подписали открытое письмо с призывом приостановить разработку продвинутого искусственного интеллекта (ИИ). Текст письма опубликовал Институт будущего жизни (Future of Life Institute).
Авторы письма призвали разработчиков искусственного интеллекта немедленно приостановить минимум на полгода обучение систем более мощных, чем GPT-4 от компании OpenAI. Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. По их мнению, если обучение не получится остановить быстро, то власти «должны вмешаться и ввести мораторий».
Авторы письма считают, что даже создатели «мощных цифровых разумов» не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком.
«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.
Как отмечает Reuters, исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо.
Письмо прокомментировали в Кремле. Там сообщили, что Россия продолжит работу по развитию искусственного интеллекта. «Что касается точки зрения тех, кто говорит об опасности ИИ, вы знаете, что любое лекарство при неправильном использовании превращается в яд», — сказал пресс-секретарь президента РФ Дмитрий Песков.
Еще об искусственном интеллектеGPT-4 сдает экзамены лучше людей, понимает картинки и, судя по всему, изменит рынок труда. Это не просто чат-бот, а важнейшее событие в сфере искусственного интеллекта Вот как устроена эта нейросетьВидели фотографию папы римского в белом пуховике? К сожалению, это фейк (конечно же, сгенерированный нейросетью) Но не переживайте — поверил чуть ли не весь интернетТоже мечтаете увидеть Путина в Гааге? (Пока) это возможно только с помощью нейросети Midjourney Но изображения такие реалистичные, что разработчики уже запретили генерировать новые — и даже забанили создателя Bellingcat