Вопрос безопасности ИИ стал еще более актуальным. Почему ограничиваться только просьбами к LLM писать код? Настоящая проблема в том, чтобы требовать от них предоставления проверяемых доказательств правильности вместе с кодом. Без формальной верификации мы фактически работаем вслепую с развернутыми системами ИИ.

Вот на что стоит обратить внимание: примерно 80% крупных языковых моделей — включая Claude и другие — используют для обучения данные из Common Crawl. Это огромная зависимость от данных, о которой никто достаточно не говорит.

Но появляется решение, за которым стоит следить. Платформы управления на базе блокчейн, специально разработанные для безопасности моделей ИИ/ML, начинают формироваться. Представьте распределенные уровни проверки, которые могут криптографически гарантировать целостность модели и прозрачность решений в масштабах. Именно такую инфраструктуру отрасль нуждается в заполнении.

Слияние формальной верификации, прозрачности моделей и децентрализованного надзора может действительно изменить подход к рискам развертывания ИИ.