Основатель Elloe AI, Оуэн Сакава, создал платформу, которую он называет «иммунной системой для ИИ» и «антивирусом для любого AI-агента». Идея проекта — добавить к большим языковым моделям (LLM) компаний дополнительный уровень защиты, который проверяет ответы ИИ на наличие предвзятости, ошибок, галлюцинаций, нарушений нормативных требований, дезинформации и небезопасного контента.
По словам Сакавы, ИИ развивается очень быстро и при этом зачастую работает без необходимых защитных механизмов и ограничений, что может привести к нежелательным последствиям. Elloe AI представляет собой API или SDK, который интегрируется поверх слоя вывода ИИ-модели и выполняет проверку каждого ответа на достоверность и соответствие требованиям.
Система стартапа использует несколько «якорей»: первый проверяет факты, опираясь на проверяемые источники; второй следит за соблюдением регуляций, таких как законы о защите данных и конфиденциальности, и предотвращает раскрытие личной информации; третий обеспечивает аудит решений, позволяя регуляторам и аудиторам проследить логику и обоснованность каждого ответа, включая источник и уровень уверенности.
Важно отметить, что Elloe AI не построена на базе LLM, поскольку проверка ИИ с помощью другого ИИ по мнению Сакавы — это лишь временное решение. Вместо этого система использует методы машинного обучения и включает участие специалистов, которые следят за обновлениями в области защиты данных и пользовательских прав.
Elloe AI стремится стать надежным защитником в мире искусственного интеллекта, обеспечивая безопасность и прозрачность в его работе.
