Гуидо Райхштадтер уже 17 дней не ест, проводя дни у офиса стартапа в Сан-Франциско, требуя остановить гонку за созданием искусственного общего интеллекта (AGI) — системы, которая могла бы обладать умственными способностями на уровне или выше человеческих. Его протест — голодовка с призывом прекратить разработку AGI, которую он считает опасным и безответственным риском для человечества.
AGI — это цель многих технологических компаний, стремящихся первыми достичь этого рубежа. Однако Райхштадтер уверен, что попытки создать такие системы грозят катастрофическими последствиями. Он считает, что компании несут ответственность не создавать технологии, которые могут навредить миллионам людей, и что все, кто понимает эту угрозу, должны действовать.
С утра до вечера он стоит с табличкой у офиса, обращаясь к сотрудникам, многие из которых избегают взгляда и делятся своими опасениями. Его слова находят отклик у других активистов: в Лондоне и Индии также начались подобные голодовки у офисов крупных AI-компаний.
Другие участники протеста, такие как Майкл Траззи, выступают за регулирование и прекращение разработки сверхинтеллекта до тех пор, пока не будет достигнуто международное соглашение. Они направляют письма руководителям крупных компаний с просьбой остановить гонку и предупреждают о рисках, которые несет неконтролируемое развитие AI.
Компании, в свою очередь, подчеркивают важность безопасности и ответственного управления технологиями, признавая разные мнения по поводу ИИ. Тем временем протестующие продолжают настаивать на необходимости признать опасность и остановить опасное развитие технологий, чтобы избежать глобальной катастрофы.
