d/acc: مراجعة وتطلعات بعد عام

في العام الماضي، كتبت مقالًا عن التفاؤل التكنولوجي، حيث شرحت شغفي العام بالتكنولوجيا، والفوائد الكبيرة التي قد تحققها. في الوقت نفسه، عبرت عن حذري تجاه بعض القضايا المحددة، لا سيما فيما يتعلق بالذكاء الاصطناعي الفائق والمخاطر المدمرة التي قد يجلبها، أو المخاطر التي قد تؤدي إلى فقدان البشرية للسلطة بشكل لا يمكن عكسه.

تتمثل النقطة الأساسية في المقال في الدعوة إلى مفهوم تسريع دفاعي لامركزي وديمقراطي ومتنوع. يجب أن نسرع في تطوير التكنولوجيا، ولكن يجب أن نركز بشكل انتقائي على تلك التقنيات التي تعزز القدرة الدفاعية بدلاً من القدرة التدميرية، ونسعى إلى تفريق السلطة، بدلاً من تركيزها في أيدي قلة من النخبة. يجب أن يكون نموذج الدفاع مثل سويسرا الديمقراطية، وليس مثل اللوردات والقلاع في الإقطاعية في العصور الوسطى.

على مدار العام الماضي، شهدت هذه الأفكار تطورًا ونضجًا ملحوظين. لقد شاركت هذه الأفكار على منصة "80,000 ساعة" وتلقيت الكثير من التعليقات، كانت معظمها إيجابية، بالطبع كان هناك بعض الانتقادات أيضًا.

لقد حققت هذه المبادرة تقدمًا ملموسًا في حد ذاتها: تم إحراز تقدم في مجال اللقاحات مفتوحة المصدر القابلة للتحقق؛ تتعمق الفهم حول الهواء الداخلي الصحي؛ تواصل "ملاحظات المجتمع" القيام بدور إيجابي؛ شهد سوق التنبؤات عامًا استثنائيًا كأداة معلومات؛ تم تطبيق الإثباتات الصفرية في مجالات تحديد الهوية الحكومية ووسائل التواصل الاجتماعي؛ حققت أدوات التصوير مفتوحة المصدر تقدمًا في مجالات الطب وواجهة الدماغ-الآلة، وغيرها.

في خريف العام الماضي، نظمنا أول حدث مهم في d/acc: "يوم اكتشاف d/acc". جمع الحدث متحدثين من مختلف مجالات d/acc( مثل البيولوجيا والفيزياء والشبكات والدفاع المعلوماتي والتقنيات العصبية)، واستمر طوال اليوم. بدأ الأشخاص الذين كرّسوا وقتهم لهذه التقنيات في التعرف أكثر على أعمال بعضهم البعض، وأصبح الغرباء يدركون بشكل متزايد هذه الرؤية الأكبر: يمكن للقيم التي تدفع تطوير الإيثريوم والعملات المشفرة أن تمتد إلى عالم أوسع.

د/acc المعنى والامتداد

فكرة d/acc الأساسية بسيطة جدًا: تسريع دفاعي لامركزي وديمقراطي ومتنوع. بناء تقنيات يمكن أن تدفع توازن الهجوم والدفاع نحو الدفاع، دون الاعتماد في عملية التنفيذ على منح المزيد من السلطة للسلطات المركزية. هناك علاقة داخلية بين هذين الجانبين: أي هيكل سياسي لامركزي أو ديمقراطي أو حر، غالبًا ما يزدهر عندما يكون الدفاع سهلاً للتنفيذ، بينما يواجه تحديات صارمة عندما يواجه الدفاع صعوبات كبيرة.

فهم أهمية محاولة تحقيق اللامركزية والدفاعية والتسريع في نفس الوقت هو أحد الطرق لمقارنتها بالمفاهيم الناتجة عن التخلي عن أي من هذه الجوانب الثلاثة.

تسريع اللامركزية، ولكن تجاهل جزء "الدفاع المتباين": هذا يشبه أن تكون مسرعًا فعالًا (e/acc)، ولكن في نفس الوقت السعي نحو اللامركزية. قد تساعد هذه الطريقة في تجنب مخاطر فرض حكم استبدادي من قبل مجموعات معينة على البشرية العالمية، لكنها لم تحل المشاكل الهيكلية المحتملة: في بيئة مواتية للهجوم، هناك دائمًا خطر مستمر من الكوارث، أو قد يقوم شخص ما بتحديد نفسه كحامٍ ويحتل مكانة مهيمنة بشكل دائم.

تسريع الدفاعات المتمايزة، لكن تجاهل "اللامركزية والديمقراطية": من أجل تحقيق الأهداف الأمنية، يتم قبول السيطرة المركزية، وهذا دائمًا ما يكون جذابًا لجزء من الناس. ومع ذلك، هناك مشكلة تتعلق بدرجة السيطرة المركزية. المخاطر المرتبطة بهذه الطريقة واضحة، وهي أن المركز نفسه غالبًا ما يصبح مصدرًا للمخاطر. لقد شهدنا ذلك خلال جائحة كوفيد-19.

الدفاع غير المركزي، ولكن الرفض للتسارع: هذه في جوهرها محاولة لإبطاء التقدم التكنولوجي أو دفع الركود الاقتصادي. تواجه هذه الاستراتيجية تحديين مزدوجين: أولاً، النمو التكنولوجي والاقتصادي بشكل عام مفيد للغاية للبشرية، وأي تأخير سيؤدي إلى تكاليف يصعب تقديرها؛ ثانياً، في عالم غير استبدادي، فإن الركود يعتبر غير مستقر.

من خلال d/acc، نهدف إلى تحقيق الأهداف التالية:

• التمسك بالمبادئ في ظل الاتجاه المتزايد للعالم نحو القبلية، وليس ببساطة بناء أشياء مختلفة بشكل أعمى.
• إدراك أن التقدم التكنولوجي المضاعف يعني أن العالم سيصبح غريبًا للغاية، وأن "أثر" الإنسانية في الكون سيستمر في الزيادة. يجب أن تتواصل قدرتنا على حماية الحيوانات والنباتات والمجموعات الضعيفة من الأذى في الارتفاع، والطريق الوحيد للخروج هو المضي قدمًا.
• بناء تقنيات قادرة على حماية أنفسنا بشكل فعلي، بدلاً من الافتراض القائم على "الأشخاص الجيدين ( أو الذكاء الاصطناعي الجيد ) يتحكم في كل شيء". نحقق هذا الهدف من خلال بناء أدوات تكون أكثر فعالية عند استخدامها للبناء والحماية بدلاً من التدمير.

وجهة نظر أخرى للتفكير في d/acc هي العودة إلى إطار حركة حزب القراصنة الأوروبي في أواخر العقد الأول من القرن الحادي والعشرين: تمكين. هدفنا هو بناء عالم يمكن أن يحتفظ بالقدرة البشرية على الفعل، وتحقيق الحرية السلبية، أي تجنب التدخل النشط من قبل الآخرين ( سواء كانوا مواطنين عاديين، أو حكومات، أو روبوتات فائقة الذكاء ) في قدرتنا على تشكيل مصيرنا، وفي نفس الوقت تحقيق الحرية الإيجابية، أي ضمان أن لدينا المعرفة والموارد لممارسة هذه القدرة.

البعد الثالث: التعاون بين البقاء والازدهار

في مقالي العام الماضي، ركزت d/acc بشكل خاص على التقنيات الدفاعية: الدفاع الفيزيائي، الدفاع البيولوجي، الدفاع السيبراني والدفاع المعلوماتي. ومع ذلك، فإن الدفاع اللامركزي البسيط لا يكفي لبناء عالم عظيم: نحتاج أيضًا إلى رؤية إيجابية استشرافية، توضح الأهداف التي يمكن للبشر تحقيقها بعد الحصول على لامركزية وأمان جديد.

هناك نمط متسق في جميع المجالات، وهو أن العلوم والأفكار والأدوات التي يمكن أن تساعدنا على "البقاء" في مجال معين مرتبطة ارتباطًا وثيقًا بالعلوم والأفكار والأدوات التي يمكن أن تدعم "ازدهارنا". فيما يلي بعض الأمثلة المحددة:

• العديد من الأبحاث الحديثة حول مكافحة فيروس كورونا تركز على استمرار وجود الفيروس داخل الجسم، والذي يُعتبر آلية رئيسية لمشكلة كورونا الطويل. مؤخرًا، ظهرت أيضًا دلائل تشير إلى أن استمرار وجود الفيروس قد يكون عاملًا مسببًا لمرض الزهايمر. إذا كانت هذه الفكرة صحيحة، فإن معالجة مشكلة استمرار وجود الفيروس في جميع أنواع الأنسجة قد تصبح مفتاحًا لحل مشكلة الشيخوخة.

• أدوات التصوير منخفضة التكلفة والميكروسكوبية، مثل تلك التي تقوم Openwater بتطويرها، لديها إمكانيات قوية في علاج الجلطات الصغيرة، والفيروسات المستمرة، والسرطان، ويمكن أيضًا تطبيقها في مجال واجهات الدماغ الآلية.

• تعزيز بناء أدوات اجتماعية مناسبة للبيئات ذات المقاومة العالية مثل ملاحظات المجتمع ( وأدوات اجتماعية لبيئة تعاون معقولة مثل Pol.is ) تشترك في أفكار مماثلة.

• تُظهر أسواق التنبؤ قيمة كبيرة في كل من بيئات التعاون العالي والتنافس العالي.

• تقنيات إثبات المعرفة الصفرية والتقنيات المشابهة تحمي الخصوصية أثناء إجراء الحسابات على البيانات، مما يزيد من كمية البيانات المتاحة للأبحاث العلمية وأعمال مفيدة أخرى، ويعزز أيضًا حماية الخصوصية.

• الطاقة الشمسية والبطاريات لها أهمية كبيرة في دفع النمو الاقتصادي النظيف في الموجة القادمة، كما أنها تظهر أداءً ممتازًا في اللامركزية والمرونة الفيزيائية.

بالإضافة إلى ذلك، هناك علاقات اعتمادية هامة بين مجالات التخصص المختلفة:

• تعتبر واجهة الدماغ-الآلة تقنية حيوية للدفاع عن المعلومات والتعاون، لأنها تمكن من التواصل الأكثر دقة لأفكارنا ونوايانا. واجهة الدماغ-الآلة ليست مجرد اتصال بين الروبوت والوعي: بل يمكن أن تكون أيضًا تفاعلًا بين الوعي والروبوت والوعي.

• تعتمد العديد من التقنيات الحيوية على تبادل المعلومات، وفي العديد من الحالات، لا يكون الناس مستعدين لمشاركة المعلومات إلا عندما يكونون متأكدين من أن المعلومات ستستخدم فقط في تطبيقات محددة. هذا يعتمد على تقنيات الخصوصية ( مثل الإثباتات الصفرية، التشفير المتجانس بالكامل، وتقنيات التعتيم وغيرها ).

• يمكن استخدام تقنية التعاون لتنسيق التمويل لأي مجال تقني آخر.

تحدي: أمان الذكاء الاصطناعي، الجدول الزمني العاجل، ومأزق التنظيم

في العام الماضي، كانت أكثر الحجج المقنعة التي واجهتها في مقالي تأتي من مجتمع أمان الذكاء الاصطناعي. كانت حجتهم: "بالطبع، إذا كان لدينا نصف قرن لتطوير الذكاء الاصطناعي القوي، يمكننا التركيز على بناء كل هذه الأشياء المفيدة. ولكن في الواقع، يبدو أن لدينا ثلاث سنوات فقط لتطوير الذكاء الاصطناعي العام، وبعد ثلاث سنوات أخرى لنصل إلى الذكاء الفائق. لذلك، إذا كنا لا نريد أن يتعرض العالم للدمار أو يقع في مأزق لا عودة فيه، لا يمكننا فقط تسريع تطوير التكنولوجيا المفيدة، بل يجب علينا أيضًا إبطاء تطوير التكنولوجيا الضارة، مما يعني أننا بحاجة إلى تدابير تنظيمية قوية قد تغضب أصحاب القوة. " في مقالي العام الماضي، باستثناء الدعوة بشكل غير واضح لعدم بناء أشكال من الذكاء الفائق التي تحتوي على مخاطر، لم أقدم أي استراتيجيات محددة لـ "إبطاء تطوير التكنولوجيا الضارة". لذلك، من الضروري هنا أن نتناول هذه المسألة مباشرة: إذا كنا في أسوأ عالم ممكن، حيث تكون مخاطر الذكاء الاصطناعي عالية للغاية والجدول الزمني قد يكون قصيرًا جدًا لمدة خمس سنوات، ما هي التدابير التنظيمية التي سأدعمها؟

أسباب التوجه بحذر تجاه التنظيم الجديد

في العام الماضي، كان الاقتراح الرئيسي لتنظيم الذكاء الاصطناعي هو قانون SB-1047 في ولاية كاليفورنيا. يتطلب قانون SB-1047 من مطوري أقوى النماذج (، أي تلك التي تتجاوز تكاليف تدريبها 100 مليون دولار، أو تكاليف ضبطها 10 ملايين دولار، اتخاذ سلسلة من تدابير الأمان قبل الإصدار. بالإضافة إلى ذلك، إذا فشل مطوروا نماذج الذكاء الاصطناعي في اتخاذ الحذر الكافي، سيتم تحميلهم المسؤولية. يرى العديد من النقاد أن هذا القانون "يشكل تهديدًا للمصادر المفتوحة"؛ وأنا أختلف مع ذلك، لأن عتبة التكلفة تعني أنها تؤثر فقط على أقوى النماذج: حتى نموذج Llama3 قد يكون أقل من هذه العتبة. ومع ذلك، عند النظر إلى الماضي، أعتقد أن القانون يعاني من مشكلة أكثر خطورة: مثل معظم التدابير التنظيمية، فإنه يتكيف بشكل مفرط مع الظروف الحالية. لقد أثبت التركيز على تكاليف التدريب أنه ضعيف عند مواجهة تقنيات جديدة: تكاليف تدريب نموذج DeepSeek v3 المتقدم مؤخرًا كانت فقط 6 ملايين دولار، وفي نماذج جديدة مثل o1، غالبًا ما يتم تحويل التكلفة من التدريب إلى مرحلة الاستدلال.

الفاعلون الأكثر احتمالاً المسؤولون عن سيناريوهات تدمير الذكاء الاصطناعي الفائق الذكاء

في الواقع، من المرجح أن يكون الفاعل المسؤول عن سيناريوهات تدمير الذكاء الاصطناعي الفائق هو الجيش. كما شهدنا في نصف القرن الماضي في الأمن البيولوجي ) وما قبله (، فإن الجيش مستعد لاتخاذ بعض الإجراءات الرهيبة، ومن السهل عليهم ارتكاب الأخطاء. اليوم، يتطور استخدام الذكاء الاصطناعي في المجال العسكري بسرعة ) كما هو الحال في أوكرانيا وقطاع غزة (. وأي إجراءات تنظيمية للأمان تعتمدها أي حكومة تستثني بشكل افتراضي الجيش الوطني والشركات المتعاونة بشكل وثيق مع الجيش.

استراتيجية المواجهة

ومع ذلك، فإن هذه الحجج ليست سبباً يجعلنا عاجزين. على العكس من ذلك، يمكننا استخدامها كإرشادات، ومحاولة وضع قواعد تثير هذه المخاوف بأقل قدر ممكن.

الإستراتيجية 1: المسؤولية

إذا كانت تصرفات شخص ما تسبب ضرراً يمكن مقاضاته بموجبه، فقد يتم مقاضاته. هذه لا تحل مشكلة المخاطر الناجمة عن الجيش وغيرهم من الفاعلين "فوق القانون"، ولكنها وسيلة عامة للغاية لتجنب الإفراط في التخصيص، ولهذا السبب يميل الاقتصاديون المؤيدون لليبرالية إلى دعم هذه الممارسة.

الأهداف الرئيسية للمسؤولية التي تم النظر فيها حتى الآن هي كما يلي:

• المستخدم: الشخص الذي يستخدم الذكاء الاصطناعي.
• المُنفِذ: وسيط يقدم خدمات الذكاء الاصطناعي للمستخدمين.
• المطورون: الذين يبنون الذكاء الاصطناعي.

يبدو أن إلقاء اللوم على المستخدم هو الأكثر توافقًا مع آلية التحفيز. على الرغم من أن العلاقة بين طريقة تطوير النموذج وطريقة استخدامه النهائية غالبًا ما تكون غير واضحة، إلا أن المستخدم هو من يحدد الطريقة المحددة لاستخدام الذكاء الاصطناعي. سيوفر تحميل المسؤولية للمستخدم ضغطًا قويًا، مما يدفع الناس لاستخدام الذكاء الاصطناعي بالطريقة التي أراها صحيحة: التركيز على بناء مجموعة آلية تفكر للبشر، بدلاً من خلق ذات جديدة.