سؤال سلامة الذكاء الاصطناعي أصبح أكثر إلحاحًا. لماذا نكتفي بطلب من نماذج اللغة الكبيرة (LLMs) كتابة الشفرة فقط؟ التحدي الحقيقي هو مطالبتها بتقديم أدلة قابلة للتحقق من صحتها جنبًا إلى جنب معها. بدون التحقق الرسمي، نحن في الواقع نقود طائرات بدون طيار مع أنظمة الذكاء الاصطناعي المنشورة.

إليك ما يستحق الانتباه إليه: حوالي 80% من نماذج اللغة الكبرى—بما في ذلك كلود وغيرها—تستمد بيانات التدريب من Common Crawl. هذه مشكلة اعتماد هائلة على البيانات لا يتحدث عنها أحد بما فيه الكفاية.

لكن هناك حلاً ناشئًا يستحق المراقبة. منصات الحوكمة القائمة على البلوكشين المصممة خصيصًا لأمان نماذج الذكاء الاصطناعي / التعلم الآلي بدأت تتشكل. تخيل طبقات التحقق الموزعة التي يمكنها ضمان سلامة النموذج وشفافيته في القرارات بشكل تشفيري على نطاق واسع. هذا هو نوع الفجوة في البنية التحتية التي يحتاجها القطاع لملئها.

تقارب التحقق الرسمي، وشفافية النموذج، والإشراف اللامركزي قد يعيد تشكيل كيفية تعاملنا مع مخاطر نشر الذكاء الاصطناعي.