طبقة الثقة للذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة تحيز الذكاء الاصطناعي والوهم

في الآونة الأخيرة، تم إطلاق شبكة اختبار عامة تُدعى Mira، والتي تهدف إلى بناء طبقة أساسية موثوقة للذكاء الاصطناعي. وهذا أثار تساؤلاتنا: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تحل Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قدراته القوية. ومع ذلك، فإن سؤالًا مثيرًا للاهتمام ويستحق الانتباه هو "الوهم" أو التحيز الموجود في الذكاء الاصطناعي. "الوهم" في الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا "يخترع" أشياء، ويقولها بجدية كاذبة. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم تفسيرًا يبدو منطقيًا ولكنه في الواقع مختلق.

تتعلق "الأوهام" أو التحيزات الموجودة في الذكاء الاصطناعي ببعض المسارات التكنولوجية الحالية. يحقق الذكاء الاصطناعي التوليدي الاتساق والموضوعية من خلال التنبؤ بالمحتوى "الأكثر احتمالًا"، ولكنه في بعض الأحيان لا يمكنه التحقق من صحة المعلومات. علاوة على ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر أيضًا على مخرجات الذكاء الاصطناعي. بمعنى آخر، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.

تؤدي آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة إلى احتمال حدوث أوهام AI بشكل شبه لا مفر منه. بالنسبة للمحتوى العام أو الترفيهي، قد لا تؤدي هذه المخرجات المتحيزة أو الوهمية إلى عواقب مباشرة في الوقت الحالي. ولكن إذا حدث ذلك في مجالات مثل الطب أو القانون أو الطيران أو المالية، فقد يكون له تأثير كبير. لذلك، فإن كيفية معالجة أوهام AI والتحيزات أصبحت واحدة من القضايا الأساسية في عملية تطوير AI.

يسعى مشروع ميرا إلى حل مشكلات تحيز الذكاء الاصطناعي والهلوسة، من خلال بناء طبقة ثقة للذكاء الاصطناعي، وزيادة موثوقية الذكاء الاصطناعي. فكيف تقلل ميرا من تحيز وهلاوس الذكاء الاصطناعي، وتحقق في النهاية ذكاءً اصطناعياً موثوقاً؟

الطريقة الأساسية لميرا هي التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. ميرا نفسها هي شبكة للتحقق، تتحقق من موثوقية مخرجات الذكاء الاصطناعي، وتعتمد على توافق عدة نماذج ذكاء اصطناعي. سمة أخرى مهمة هي استخدام التحقق من خلال توافق لامركزي.

تتمحور شبكة ميرا حول التحقق من الإجماع اللامركزي، وهو تخصص في مجال التشفير. في الوقت نفسه، تستخدم طريقة تنسيق متعددة النماذج لتقليل التحيز والأوهام من خلال نموذج تحقق جماعي.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات، من خلال آلية تحفيز/عقاب اقتصادية مشفرة لضمان سلوك مشغلي العقد بأمانة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معًا لضمان موثوقية نتائج التحقق.

تتضمن بنية شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، لتحقيق موثوقية التحقق. يعتبر تحويل المحتوى أحد الأجزاء المهمة في ذلك. تقوم شبكة ميرا أولاً بتقسيم المحتوى المرشح إلى بيانات قابلة للتحقق مختلفة، يتم توزيع هذه البيانات بواسطة النظام على العقد للتحقق من صحة البيانات، وتجميع النتائج للتوصل إلى توافق. لحماية خصوصية العملاء، يتم تقسيم تحويل المحتوى المرشح إلى بيانات على شكل أزواج، وتوزيعها على عقد مختلفة بطريقة تجزئة عشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.

تتحمل مشغلات العقد مسؤولية تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. يشاركون في التحقق من أجل تحقيق الربح، وهذه الأرباح تأتي من القيمة التي يتم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل أخطاء الذكاء الاصطناعي، وبمجرد تحقيق هذا الهدف، يمكن أن يولد قيمة كبيرة في مجالات مثل الرعاية الصحية، القانون، الطيران، والمالية. لمنع سلوك المضاربة الناتج عن الاستجابة العشوائية للعقد، سيتم تقليل الرموز المميزة المضمونة من العقد التي تنحرف باستمرار عن الإجماع.

بشكل عام، تقدم Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. إنها تبني شبكة تحقق لامركزية قائمة على نماذج الذكاء الاصطناعي المتعددة، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من تحيزات الذكاء الاصطناعي والهلاوس، ويلبي احتياجات العملاء للحصول على دقة أكبر ومعدل دقة أعلى. في الوقت نفسه، توفر قيمة للعملاء وتحقق عوائد للمشاركين في شبكة Mira. باختصار، تسعى Mira لبناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع تطوير تطبيقات الذكاء الاصطناعي بشكل أعمق.

حاليًا، تتعاون Mira مع عدة أطر عمل للوكيل الذكي. مع إطلاق الشبكة العامة التجريبية لميرا، يمكن للمستخدمين المشاركة في الاختبار من خلال استخدام تطبيق الدردشة Klok القائم على LLM الخاص بميرا، وتجربة المخرجات الذكية الموثقة، ولديهم فرصة لكسب نقاط Mira.