مؤسس Ethereum فيتاليك بوتيرين يصف "حوكمة الذكاء الاصطناعي" بأنها "فكرة سيئة"

يدّعي المؤسس المشارك لـEthereum، Vitalik Buterin، أن استخدام الذكاء الاصطناعي (AI) في الحوكمة هو "فكرة سيئة". في منشور على منصة X يوم السبت، كتب Buterin:

“إذا استخدمت الذكاء الاصطناعي لتخصيص التمويل للمساهمات، فإن الناس سيضعون اختراقات بالإضافة إلى "أعطني كل المال" في أكبر عدد ممكن من الأماكن.”

لماذا حوكمة الذكاء الاصطناعي معيبة

كان منشور Buterin رداً على Eito Miyamura، المؤسس المشارك والرئيس التنفيذي لـEdisonWatch، وهي منصة حوكمة بيانات الذكاء الاصطناعي، والذي كشف عن خلل قاتل في ChatGPT. في منشور يوم الجمعة، كتب Miyamura أن إضافة الدعم الكامل لأدوات MCP (بروتوكول سياق النموذج) على ChatGPT جعلت وكيل الذكاء الاصطناعي عرضة للاستغلال.

التحديث، الذي دخل حيز التنفيذ يوم الأربعاء، يسمح لـChatGPT بالاتصال وقراءة البيانات من عدة تطبيقات، بما في ذلك Gmail وCalendar وNotion.

أشار Miyamura إلى أنه باستخدام عنوان بريد إلكتروني فقط، أصبح من الممكن "تهريب جميع معلوماتك الخاصة" بفضل التحديث. يمكن للمخربين الوصول إلى بياناتك في ثلاث خطوات بسيطة، كما شرح Miyamura:

أولاً، يرسل المهاجمون دعوة تقويم خبيثة مع موجه اختراق إلى الضحية المستهدفة. يشير موجه الاختراق إلى كود يسمح للمهاجم بإزالة القيود والحصول على وصول إداري.

أشار Miyamura إلى أن الضحية لا تحتاج إلى قبول دعوة المهاجم الخبيثة حتى يحدث تسرب البيانات.

الخطوة الثانية تتضمن انتظار الضحية المستهدفة لطلب مساعدة ChatGPT للتحضير ليومهم. أخيراً، بمجرد أن يقرأ ChatGPT دعوة التقويم المخترقة، يتم اختراقه—حيث يمكن للمهاجم الاستيلاء الكامل على أداة الذكاء الاصطناعي، وجعلها تبحث في رسائل البريد الإلكتروني الخاصة بالضحية، وإرسال البيانات إلى بريد المهاجم الإلكتروني.

بديل Buterin

يقترح Buterin استخدام نهج التمويل المعلوماتي في حوكمة الذكاء الاصطناعي. يتكون نهج التمويل المعلوماتي من سوق مفتوح حيث يمكن للمطورين المختلفين المساهمة بنماذجهم. يحتوي السوق على آلية تحقق فوري لهذه النماذج، يمكن لأي شخص تفعيلها ويتم تقييمها من قبل هيئة محلفين بشرية، كما كتب Buterin.

في منشور منفصل، أوضح Buterin أن المحلفين البشر الفرديين سيتم مساعدتهم من قبل نماذج اللغة الكبيرة (LLMs).

وفقاً لـButerin، فإن هذا النوع من نهج "تصميم المؤسسة" هو "أكثر متانة بطبيعته". وذلك لأنه يوفر تنوعاً في النماذج في الوقت الفعلي ويخلق حوافز لكل من مطوري النماذج والمضاربين الخارجيين لمراقبة المشكلات وتصحيحها.

بينما يشعر الكثيرون بالحماس لاحتمالية وجود "الذكاء الاصطناعي كحاكم"، حذر Buterin قائلاً:

“أعتقد أن القيام بذلك محفوف بالمخاطر سواء لأسباب تقليدية تتعلق بسلامة الذكاء الاصطناعي أو لأسباب قريبة المدى مثل "هذا سيخلق انفجاراً مدمراً للقيمة".”

ظهر منشور مؤسس Ethereum Vitalik Buterin الذي يصف "حوكمة الذكاء الاصطناعي" بأنها "فكرة سيئة" أولاً على CryptoSlate.