Искусственный интеллект способен выполнять роль встроенного прямо в блокчейн судьи на рынках предсказаний. Такое мнение выразил профессор политической экономики в Высшей школе бизнеса Стэнфордского университета Эндрю Холл.
Он описал проблему «честного» разрешения споров на примере президентских выборов в Венесуэле.
В прошлом году было заключено контрактов на общую сумму более $6 млн на исход события. Однако после кампании рынок оказался в замешательстве:
- правительство объявило Николаса Мадуро победителем;
- оппозиция и международные наблюдатели заявили о фальсификациях.
Это не единичный случай, отметил эксперт. В другом исходе кто-то якобы манипулировал с картой Украины касательно территориального спора.
Холл считает важным создать справедливую систему разрешения контрактов, которой будут доверять. В таком случае цены станут значимыми сигналами для общества.
Проблема не только рынка прогнозов
Аналогичные проблемы преследуют финансовые рынки. Международная ассоциация свопов и деривативов на протяжении многих лет борется с проблемами урегулирования на рынке кредитных дефолтных свопов — контрактов, по которым выплачиваются деньги в случае банкротства компании или страны.
Комитеты по принятию решений голосуют по вопросу о том, произошли ли кредитные события. Но процесс подвергается критике за непрозрачность, потенциальные конфликты интересов и непоследовательные результаты.
Свойства хорошего решения
Эксперт назвал несколько ключевых свойств, которыми должно обладать любое жизнеспособное решение:
- устойчивость к манипуляциям — если повлиять на вердикт можно путем редактирования Википедии, распространения фальшивых новостей, подкупа оракулов или использования лазеек, рынок превращается в игру, в которой побеждает лучший манипулятор;
- разумная точность — механизм обязан делать правильный вывод в большинстве случаев. Идеальная точность невозможна, но важно исключить систематические ошибки и явные промахи;
- прозрачность — трейдеры должны точно понимать принцип работы механизма;
- нейтральность — участники намерены быть уверены в том, что система не благоприятствует какому-либо конкретному пользователю или результату.
Состоящие из людей комитеты могут удовлетворить некоторых из этих свойств, но они подвержены манипуляциям и не способны быть нейтральными.
ИИ — решение проблемы
Холл предлагает использовать большие языковые модели в качестве судей, при этом каждая модель и промпт фиксируются в блокчейне в момент создания контракта.
Базовая архитектура выглядит так:
- При создании контракта маркетмейкер указывает не только критерии разрешения спора на естественном языке, но и LLM, а также точный промпт, который будет использоваться для определения результата.
- Спецификация фиксируется в блокчейне с помощью криптографии.
- Когда стартует торговля, участники могут ознакомиться с полным механизмом работы контракта — они точно знают, как модель получает доступ к указанным источникам информации и выносит решение.
Такой метод устраняет несколько ключевых проблем:
- ИИ сопротивляется манипуляциям (хотя и не абсолютно). Результаты работы крупной LLM не так легко отредактировать. Для подмены решения мошеннику необходимо изменить источники информации, на которые опирается модель;
- обеспечивается точность — нейросети могут быстро перемещаться по сети и искать новую информацию;
- прозрачность — весь механизм разрешения споров доступен для анализа и проверки. Никаких изменений правил в процессе и субъективных решений быть не может;
- достоверность — LLM не имеет финансовой заинтересованность в результате и его нельзя подкупить.
Из недостатков: ИИ допускает ошибки. Он может неправильно прочитать новостную статью или придумать факт.
Галлюцинации — проблема развития ИИ
Галлюцинации у ИИ-моделей — случаи, когда нейросети уверенно предоставляют ложную или несоответствующую действительности информацию. Она звучит правдоподобно.
forklog.com
Манипуляции не невозможны, просто их сложнее осуществить. Мошенники могут заказать размещение определенной информации в крупных СМИ. Это дорого, но реально.
Также есть вероятность атаки на обучающие данные LLM. Но для этого необходимо действовать задолго до заключения контракта.
Вывод
Решение на базе искусственного интеллекта заменяет один набор проблем другим, более управляемым. Платформам стоит экспериментировать с разными LLM для получения опыта, считает Холл.
По мере появления передовых практик сообществу необходимо работать над стандартизацией комбинаций ИИ-программ. Это поможет сконцентрировать ликвидность, считает автор.
Напомним, в январе аналитики a16z crypto предсказали рост рынков предсказаний и ZK-доказательств.