Питання безпеки ШІ стало ще актуальнішим. Чому зупинятися на тому, щоб просити LLM писати код? Наступним викликом є вимога надавати підтверджувальні докази правильності разом із кодом. Без формальної верифікації ми фактично керуємося сліпим довір'ям до розгорнутих систем ШІ.

Ось що варто враховувати: приблизно 80% великих мовних моделей — включно з Claude та іншими — беруть навчальні дані з Common Crawl. Це величезна залежність від даних, про яку недостатньо говорять.

Але з’являється нове рішення, яке варто стежити. Платформи управління на основі блокчейну, спеціально розроблені для безпеки моделей ШІ/МЛ, починають формуватися. Уявіть собі розподілені рівні верифікації, які можуть криптографічно гарантувати цілісність моделі та прозорість рішень у масштабі. Це той тип інфраструктурної прогалини, яку потрібно заповнити галузі.

Злиття формальної верифікації, прозорості моделей і децентралізованого нагляду може фактично змінити підхід до ризиків розгортання ШІ.