حول مسألة مصداقية المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، تستحق هذه المنهجية الاهتمام — خاصة في سيناريوهات التطبيق التي تتطلب مستوى عالٍ من الشفافية.
الفكرة الأساسية بسيطة: كل بيان يجب أن يكون له علامة مصدر [S#],每个推理步骤要标注[R#]، ثم الأهم هو إعطاء تقييم الثقة (0-1). إذا كانت الثقة أقل من 0.7، يتم تصنيفه مباشرة على أنه غير مؤكد، مع شرح السبب.
هذا ذو معنى كبير لنظام Web3 البيئي. تخيل في حوكمة DAO، أو العقود الذكية على السلسلة، أو سيناريوهات التحقق من صحة NFT، إذا كان يمكن تتبع المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بهذه الطريقة، سيتمكن المستخدمون من تحديد الاستنتاجات ذات الثقة العالية، والآراء التي تعتمد على التخمين.
المفتاح ليس جعل إجابات الذكاء الاصطناعي أكثر تعقيدًا، بل جعل تدفق المعلومات أكثر شفافية — وهذا في جوهره يتوافق مع قابلية تدقيق blockchain. بالنسبة للأطراف التي تعتمد على صحة البيانات، فإن توحيد معايير سلسلة الأدلة هذه سيقلل بشكل كبير من مخاطر اتخاذ القرار.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 17
أعجبني
17
4
إعادة النشر
مشاركة
تعليق
0/400
SorryRugPulled
· 01-16 13:10
هل تعتبر أقل من 0.7 غير مؤكدة مباشرة؟ يا إلهي، حتى الذكاء الاصطناعي يتعلم الآن كيفية التنصل من المسؤولية
يا صاحبي، إذا تم بالفعل تطبيق نظام العلامات هذا، كم من المشاكل يمكن أن تتجنبها حوكمة DAO
---
عتبة الثقة 0.7 تعتبر متحفظة قليلاً، لكنني أحب هذه الفكرة... أفضل بكثير من التخمين العشوائي الحالي
---
باختصار، هو فتح الصندوق الأسود للذكاء الاصطناعي، وجعله يوضح مصادره ومنطقه، هذا شيء جريء جدًا
---
هل تستخدم هذا للتحقق من صحة NFT؟ أخيرًا، أحد فكر في ذلك، لتجنب انتشار الكثير من المقلدات
---
الشفافية، هذا الشيء الذي طالما نادينا به في Web3، وأخيرًا نرى خطة تنفيذ جيدة
---
السؤال هو، من يحدد تلك الثقة 0.7؟ هل سنحتاج إلى أوراكل جديد...
---
هذه المنطق فهمته، وهو جعل الذكاء الاصطناعي قابلاً للتدقيق مثل البلوكشين، إنه توافق مثالي
---
أظن أن الشركات الكبرى لن تستخدمه، خوفًا من كشف عيوب نماذجها، لكن المشاريع الصغيرة يمكن أن توفر الكثير من الجهد
شاهد النسخة الأصليةرد0
APY_Chaser
· 01-16 13:02
آه، أعجبني هذا التفكير، أخيرًا أحد يوضح مسألة الشفافية بشكل واضح
---
يمكن استخدام نظام تقييم الثقة هذا مباشرة على السلسلة، أقل من 0.7 يُعتبر بطاقة حمراء، وهو أكثر موثوقية بكثير من تلك العقود السوداء الحالية
---
باختصار، الهدف هو جعل الذكاء الاصطناعي أيضًا قابل للمراجعة، وهذا هو الشكل الذي يجب أن يكون عليه Web3
---
قبل تصويت DAO، يمكنك الاطلاع على هذا لتجنب الأخطاء، المعلومات القابلة للتتبع من المصدر قيمة جدًا
---
المهم هو التوحيد القياسي، حاليًا جميع أنواع الذكاء الاصطناعي تتبع معايير مختلفة تمامًا، بحاجة إلى إطار موحد
---
هل هذا يعني ببساطة تطبيق منطق blockchain على الذكاء الاصطناعي؟ أصبح الأمر أكثر إثارة للاهتمام
---
إذا تمكنت تقنية التحقق من NFT من أن تكون قابلة للمراجعة، فسيقل عدد الاحتيالات ويقل عدد الأشخاص الذين يموتون بسببها
---
بصراحة، طريقة العلامة [S#][R#] تبدو معقدة لكنها في الواقع تتعلق بالعمل بدون ثقة
---
أريد فقط أن أعرف من سيقوم بصيانة هذا المعيار لمنع إساءة الاستخدام، أم أن هناك صراع على السلطة مرة أخرى؟
---
تذكرني بمشكلة oracle، لكن هذه المرة تتعلق بشفافية مدخلات الذكاء الاصطناعي، الاتجاه صحيح
حول مسألة مصداقية المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، تستحق هذه المنهجية الاهتمام — خاصة في سيناريوهات التطبيق التي تتطلب مستوى عالٍ من الشفافية.
الفكرة الأساسية بسيطة: كل بيان يجب أن يكون له علامة مصدر [S#],每个推理步骤要标注[R#]، ثم الأهم هو إعطاء تقييم الثقة (0-1). إذا كانت الثقة أقل من 0.7، يتم تصنيفه مباشرة على أنه غير مؤكد، مع شرح السبب.
هذا ذو معنى كبير لنظام Web3 البيئي. تخيل في حوكمة DAO، أو العقود الذكية على السلسلة، أو سيناريوهات التحقق من صحة NFT، إذا كان يمكن تتبع المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بهذه الطريقة، سيتمكن المستخدمون من تحديد الاستنتاجات ذات الثقة العالية، والآراء التي تعتمد على التخمين.
المفتاح ليس جعل إجابات الذكاء الاصطناعي أكثر تعقيدًا، بل جعل تدفق المعلومات أكثر شفافية — وهذا في جوهره يتوافق مع قابلية تدقيق blockchain. بالنسبة للأطراف التي تعتمد على صحة البيانات، فإن توحيد معايير سلسلة الأدلة هذه سيقلل بشكل كبير من مخاطر اتخاذ القرار.