В центре внимания — команда из девяти человек в компании Anthropic, которая занимается изучением социальных и этических последствий использования искусственного интеллекта. Их задача — выявлять и публиковать неудобные истины о том, как ИИ влияет на психическое здоровье, рынок труда, экономику и даже выборы.
Однако команда сталкивается с серьезными трудностями. Их независимость и существование под вопросом, особенно когда исследования могут негативно отражаться на продуктах самой компании. Существует значительное давление не только со стороны индустрии, но и со стороны политических сил, которые стремятся ограничить или контролировать деятельность в сфере ИИ. Например, администрация Трампа выпустила указ, запрещающий так называемый «прогрессивный» ИИ.
Anthropic выделяется на фоне других компаний тем, что её генеральный директор Дарио Амодеи выступает за регулирование ИИ на государственном уровне и уделяет особое внимание безопасности технологий. Это связано с тем, что компания была основана бывшими руководителями исследований из OpenAI, которые обеспокоены вопросами безопасности ИИ.
Ситуация напоминает проблемы, с которыми столкнулись компании социальных сетей: несмотря на наличие команд, занимающихся модерацией контента и безопасностью, со временем ресурсы на эти задачи сокращаются, и результаты исследований часто игнорируются. В настоящее время инвестиции в контроль качества контента и обеспечение честности выборов сокращаются, а Кремниевая долина тесно сотрудничает с администрацией для противодействия строгому регулированию ИИ.
Anthropic и её команда оказываются в уникальной, но сложной позиции — они пытаются сохранить независимость и продолжать исследования, которые могут изменить подход к разработке ИИ, но при этом им приходится работать под постоянным внешним давлением. Этот конфликт отражает более широкий вызов индустрии: как сочетать инновации и безопасность, моральные и коммерческие интересы в быстро развивающейся сфере искусственного интеллекта.
