Бывший исследователь Google DeepMind Билал Чугтай заявил, что развитие искусственного интеллекта идет быстрее, чем работа над способами его контролировать. По его мнению, появление сверхразумных систем без надежных механизмов безопасности в худшем случае может привести к потере человечеством контроля над происходящим и даже его гибели.
Сообщество
# AGI
# alignment
# Google DeepMind
# безопасность ИИ
# искусственный интеллект
# нейросети
# суперинтеллект
# технологии
Кадр из фильма «Я – робот» / © Warner Bros.
Билал Чугтай работал в Google DeepMind над безопасностью искусственного интеллекта и так называемым выравниванием, или alignment. Под этим понимают попытки сделать так, чтобы все более мощные системы ИИ продолжали действовать в соответствии с целями и ограничениями, которые задают люди.
