Создание искусственного интеллекта, который бы строго придерживался человеческих ценностей, известно в индустрии как задача выравнивания (alignment). Это направление превратилось в целую, хоть и несколько туманную, область исследований с множеством политических докладов и критериев оценки моделей.
Но кто же выравнивает самих исследователей выравнивания?
На этот вопрос отвечает Центр выравнивания центров по выравниванию ИИ — организация, которая с шутливой стороны показывает запутанность и противоречивость тех, кто пытается сделать ИИ безопасным, включая и сами компании-разработчики ИИ.
Сайт центра выглядит официально и даже стильно: логотип с расходящимися стрелками и плавные линии создают ощущение единства. Но если задержаться на странице подольше, то можно заметить, что линии складываются в слово «чепуха», а каждая страница наполнена тонким юмором и скрытыми шутками.
Центр был запущен командой, которая ранее создала проект, позволяющий женщинам носить специальную коробку на свиданиях, чтобы избежать создания их образов в виде глубоких фейков с помощью ИИ.
Этот центр высмеивает тенденцию некоторых исследователей отвлекаться от реальных проблем ИИ — таких, как предвзятость моделей, энергетический кризис и замена рабочих — и сосредотачиваться на теоретических угрозах захвата мира ИИ.
Для решения «кризиса выравнивания выравнивания» Центр набирает сотрудников преимущественно из Кремниевой долины с условием веры в неминуемое уничтожение человечества ИИ в ближайшие полгода. Желающие стать частью центра могут просто оставить комментарий на странице в LinkedIn и автоматически стать его членами.
Кроме того, сайт предлагает генеративный ИИ-инструмент, который позволяет каждому создать свой собственный центр по выравниванию ИИ с директором за считанные минуты, даже без знаний в области ИИ.
Тем, кто стремится занять позицию «исследователя выравнивания выравнивания выравнивания», сайт подготовил музыкальный сюрприз — известный хит, который неожиданно начинает играть, приглашая не сдаваться и двигаться дальше.
