Сенатор Элизабет Уоррен выразила серьезные опасения по поводу безопасности искусственного интеллекта , известного под названием Grok, в письме министру обороны США Питу Хегсету. Grok, разработанный компанией , которую возглавляет Илон Маск, позиционируется как система с ослабленными ограничениями, способная отвечать на провокационные вопросы, что уже привело к множеству скандалов и спорных высказываний, включая антисемитские выпады и неуместные сравнения.
Несмотря на это, получила контракт Министерства обороны США на сумму 200 миллионов долларов для решения важных национальных задач, что вызвало вопросы о прозрачности и безопасности использования таких технологий в оборонных целях. Сенатор Уоррен подчеркнула, что компания не имеет проверенной репутации и вызывает опасения из-за использования чувствительных государственных данных и склонности Grok генерировать ошибочную информацию.
Эксперты критикуют подход к безопасности, который основан на временных исправлениях после возникновения проблем, а не на комплексной стратегии предотвращения опасных ситуаций. Отсутствие официальных отчетов о безопасности и этических стандартах в работе Grok вызывает дополнительное беспокойство.
Особую тревогу вызывает возможность использования Grok и аналогичных систем для разработки биологических и химических оружий, а также для массового наблюдения и слежки, что может привести к злоупотреблениям и нарушению прав человека. В то время как другие крупные AI компании вводят дополнительные меры безопасности, пока не демонстрирует подобных инициатив.
В условиях растущей конкуренции на рынке искусственного интеллекта и значительных контрактов с правительством вопрос безопасности и контроля над такими системами становится критически важным. Эксперты предупреждают, что без строгих стандартов и надзора технологии могут привести к непредсказуемым и опасным последствиям для общества и национальной безопасности.
