Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.
Сообщество
# Anthropic
# Claude
# IPO
# безопасность ИИ
# искусственный интеллект
# машинное обучение
# нейросети
# технологии
# языковые модели
Иллюстрация к исследованию поведения автономных ИИ-агентов / © Anthropic
По данным Reuters, ознакомившегося с документом, из 261 страницы основной части проспекта первичного размещения акций около 80 отведено факторам риска, а 48 — описанию бизнеса. Речь идет обо всем разделе рисков, а не только об угрозах существованию человечества.
