Искусственный интеллект стал нашим повседневным помощником, но его способность к «галлюцинациям» – созданию уверенных и правдоподобных выдумок – превратилась в одну из главных технологических проблем XXI века. От юристов, проигрывающих дела из-за выдуманных ИИ прецедентов, до чат-ботов, дающих опасные медицинские советы, мы столкнулись с фундаментальным кризисом доверия к информации.
Проект МГУ «Ковчег знаний» предлагает системный ответ на этот вызов. Его ключевая идея – это революционный переход от обучения ИИ на хаотичных данных из интернета к использованию проверяемых корпусов знаний. В основе создаваемой платформы лежат метаонтологии – своего рода «чертежи» для карты знаний, которые превращают набор разрозненных сведений в единую, логически связанную структуру.
На встрече мы разберём принципы «инженерии доверия»: как проектируется многоуровневая система верификации, где каждый факт проходит через автоматические сверки, ИИ-триаж и оценку ведущими учёными. Вы узнаете, что такое «индекс доверия» – прозрачная метрика, которая будет оценивать качество информации по критериям истинности, нейтральности, полноты и актуальности.
В рамках презентации мы покажем концептуальные примеры того, как граф знаний, построенный на онтологиях, сможет исправлять ошибки «чистых» языковых моделей и почему он становится фундаментом для нового подхода – Trust-Augmented Generation (генерации, дополненной доверием). Мы поделимся видением того, как эта платформа изменит само образование, смещая фокус с заучивания на исследование связей, и как она укрепит цифровой и культурный суверенитет страны. Приглашаем всех, кому важно будущее надежного ИИ и достоверных знаний.