Will it take a disaster to force AI regulation? | The Economist

لن يكون هناك أي تحرك،. أي تحرك جوهري، إلا. بعد وقوع أمر كبير. إما. خسارة مالية فادحة أو. فقدان كبير في الأرواح. . باختصار، تشيرنوبيل. الذكاء الاصطناعي. يجب. أن يحدث شيء ما لتغيير. الديناميكية السياسية. ، لكن من الممكن إيجاد. طريق للخروج من هذا. لا. أعتقد أنه من المنطقي. إيقاف كل تطوير الذكاء. الاصطناعي بالكامل،. لكنني أعتقد أنه يمكنك. التركيز أكثر على. السلامة في الولايات. المتحدة وإحداث نوع من. التوازن بين المضي. قدماً دون أي تركيز. على السلامة، ويمكنك.

القيام بذلك دون أن. تفقد الولايات. المتحدة تفوقها. بالضرورة. وثانياً،. ليس الأمر وكأنه لا. توجد لوائح تنظيمية في. الصين. هناك الكثير من. اللوائح المتعلقة. بالذكاء الاصطناعي في. الصين. إنهم قلقون. للغاية بشأن عناصر. معينة من الذكاء. الاصطناعي، ولا. أستطيع أن أصدق أن. النظام الصيني. السلطوي يعتقد أنه في. مصلحته التعرض لمخاطر. وجودية حقيقية. لذا،. ربما أكون أكثر. تفاؤلاً بأنه في مرحلة. ما في المستقبل ستكون. هناك قدرة متواضعة. نسبياً لهذين البلدين. على العمل معاً. ولكن.

حتى قبل ذلك، أعتقد. أنه يمكنك تصميم نظام. تنظيمي خفيف يرجح كفة. السلامة قليلاً دون. المساس بمكانة. الولايات المتحدة. >> سؤال تقني واحد أحتاج. إلى إجابة عليه يا. أليكس، هو إلى أي مدى. إذا تباطأت أمريكا. قليلاً، سيكون ذلك في. قدرة المختبرات. الصينية على المضي. قدماً، وإلى أي مدى. يعتمدون بالفعل على. استخلاص العمل الذي. تقوم به المختبرات.

الأمريكية. لذا، في. الواقع، من الأسهل على. الولايات المتحدة. الحفاظ على تفوقها مما. قد تعتقد. >> أعتقد أن هناك فرقاً. بين احتفاظ أمريكا. بتفوقها وبين مضي. أمريكا قدماً في. مجالات جديدة تماماً. لم يتم طرقها بعد. المشكلة إذا توقفت. أمريكا هي أنه على أقل. تقدير يجب أن نتوقع. استخدام الأساليب. التي اتخذتها الصين. بالفعل للحاق بالركب. ويبدو أن ذلك الفارق. البالغ ثلاثة أو أربعة. أشهر كان مهماً للغاية.

على مدى الأشهر. الثلاثة أو الأربعة. الماضية. ربما رأينا. فقط في الآونة الأخيرة. إصدار ما قد نسميه. نماذج "ميثوس" من الصين. . نظام GLM 5.3 مفتوح. المصدر من مختبر صيني. ربما وصل للتو إلى. المستوى الذي وصلت. إليه شركة "أنثروبيك". في مارس من هذا العام. من حيث احتمالية الضرر. عند تطبيقه في مجالات. الأمن السيبراني. هذا. يعني أنه إذا توقفت. أمريكا، لا يقتصر. الأمر على أن الصين لن.

تتجاوزنا. بل لن يؤدي. ذلك إلى إثارة مخاطر. التحسين الذاتي. المتكرر. المشكلة هي. أن حدود التكنولوجيا. الأمريكية أصبحت. بالفعل خطيرة. نحن. نشهد بالفعل احتمالات. حقيقية للضرر. تمتلك. جميع المختبرات. الأمريكية نماذج لا. تطرحها للجمهور. وتتيحها فقط لشركاء. موثوقين. يجب أن نتوقع. أن يتم اللحاق بهذا. المستوى الريادي بغض. النظر عما تفعله. المختبرات الأمريكية. لذا السؤال هنا هو،. كما تعلم، هذا هو أكثر. وجهة نظر تسارعية. ستسمعها مني، هو ما. إذا كنت بحاجة إلى. تطوير ذكاء اصطناعي.

أقوى للتعامل مع أضرار. الذكاء الاصطناعي. الأضعف قليلاً الذي. أطلقته بالفعل في. العالم. >> وما هي إجابتك؟ سؤال. جيد. >> أعني، إجابتي هي أن. هذا يبدو حقاً مثل. ابتلاع عنكبوت لصيد. ذبابة، أليس كذلك؟. >> هذه هي منطق هذه. التكنولوجيا بالكامل. أنت تحتاج، كما تعلم،. أن تكون في المقدمة. لمنع الصينيين من أن. يكونوا في المقدمة. أنت بحاجة لأن تكون في. المقدمة لمنع الآخرين. من امتلاك نماذج تسبب. ضرراً. أنا حقاً لا أرى. كيف يمكنك إيقاف ذلك. >> إنه كذلك فعلاً. أعني،. الطريقة التي توقف بها. ذلك هي أن تبطئ، ثم.

تبطئ أكثر، ثم تبطئ. أكثر. وفي كل خطوة على. الطريق تثبت من خلال. هذه الالتزامات. المكلفة أنك تفعل. بالفعل ما تقول إنك. تفعله. >> اللوائح بطبيعتها. يصعب إدارتها وتتسم. بالثقل. ما مدى. التسامح داخل هذا. النظام مع التنظيم؟ ما. مدى إمكانية وجود. تنظيم دقيق كما تقول. يبطئنا قليلاً، ولكن. ليس كثيراً؟ هذا. >> حسناً،. >> ممتاز. >> دعنا دعنا نذهب، أعني،. هذه، كما تعلمون. جميعاً، أعتقد أنها.

أقوى تكنولوجيا،. بالتأكيد منذ الثورة. الصناعية، وربما على. الإطلاق. ومع ذلك،. يمكن للتاريخ أن. يساعدنا في فهم بعض. هذه الأمور. وإذا نظرت. إلى الاختراعات. الكبرى السابقة، سواء. كانت السيارة أو. الابتكارات الطبية،. لدينا نظام تنظيمي. كبير نوعاً ما. ولم. نستيقظ في يوم من. الأيام ونقول "ها هو ذا. ". لقد تم تطويره. استجابةً للأمور التي. سارت بشكل خاطئ. تم. تطويره بشكل تدريجي. تم ارتكاب أخطاء. حدث. مبالغة في التنظيم. تم. التراجع عن بعض الأمور.

من قبل أشخاص مثلنا. يؤمنون بتنظيم غير. تدخلي للغاية. وأعتقد. أنه يمكنك القيام بنفس. الشيء هنا. >> هل هناك وقت مع هذه. التكنولوجيا؟. >> هيا. دعونا لا نكون. متشائمين جداً. أعني،. كما تعلمون، أعتقد أنه. لن يكون هناك تحرك،. تحرك كبير، إلا بعد. حدوث شيء كبير نوعاً. ما. وبقولي "كبير نوعاً. ما"، أعني إما خسارة. مالية فادحة أو فقدان. كبير للأرواح. أعتقد. أن ذلك سيحدث قريباً. جداً. كما تعلم،. يُستخدم مصطلح ". تشيرنوبل الذكاء. الاصطناعي" كاختصار،. لكني آمل ألا يكون. الأمر بهذا السوء. لكنني أعتقد أنه يجب.

أن يحدث شيء ما لتغيير. الديناميكية السياسية. . ومع ذلك، أعتقد أنه. من الممكن إيجاد مسار. للخروج من هذا الوضع. لا أعتقد أنه ينبغي. لنا أن نستسلم ونقول. إن ديناميكية السباق. تعني أننا نسير حتماً. في طريق ينطوي على. احتمال بنسبة 10%لفناء. البشرية. أعتقد أننا. نملك حقاً القدرة على. التأثير في هذا الأمر. >> شاشانك؟. >> أريد فقط تذكير الناس. بأننا لا نواجه خياراً. ثنائياً بين "لا شيء". وبين "تنظيم صارم. للغاية"، إذ أن الوضع. الراهن يفرض نوعاً من. التنظيم من الباب. الخلفي. وما الذي. أعنيه بذلك؟ حسناً،.

أولاً، هناك ما تقوم. به الإدارة الحالية. لدينا نظام ترخيص فعلي. للنماذج الأكثر. تقدماً. على الأقل. بالنسبة لشركتي. أنثروبيك وأوبن أيه آي. ، يتعين عليهما مراجعة. الحكومة كل أسبوع. والقول: "هل يمكننا. السماح لهذا المستخدم. بالوصول إلى نماذجنا. الأكثر تقدماً؟" لذا،. مجرد عدم كتابة ذلك في. قانون صادر عن. الكونغرس لا يعني عدم. وجود هذا النوع من. التنظيم. والأمر الآخر. هو أننا بينما ننتظر. استقرار الأمور،. الولايات لا تنتظر. الولايات تتحرك. بالفعل. لدينا مشاريع.

قوانين تم تمريرها. وأصبحت قوانين سارية. في نيويورك. وكاليفورنيا. هناك. قوانين مسؤولية. للذكاء الاصطناعي قيد. المناقشة في رود. آيلاند وولايات أخرى. هذا خليط من التشريعات. التي تتراكم تحت مستوى. النقاش الفيدرالي. وإذا لم يحدث شيء خلال. عام، فهذا لا يعني أنه. لا يوجد تنظيم. بل يعني. أن هناك خليطاً من. التنظيمات التي. تراكمت بمرور الوقت. وأعتقد أن الجميع في. واشنطن يدركون ذلك. تماماً. >> هناك قلق هنا، وهو كما. تقولين يا زاني،. لنفترض أنكِ بحاجة إلى.

نوع من "تشيرنوبل. الذكاء الاصطناعي" لكي. يتحرك الجميع. إن. احتمال وجود تنظيم. متناسب وعقلاني بعد ". تشيرنوبل الذكاء. الاصطناعي" بدلاً من. ربما ليس إيقاف النظام. بالكامل، بل اتخاذ. إجراءات قاسية جداً،. هو أمر يدفع الناس. للتحرك، لكنه يجعلهم. يبالغون في رد الفعل. أيضاً. >> بالتأكيد. ممم، وكلما. كان الحادث أسوأ،. >> زادت حدة اللاعقلانية. ،. >> أو زادت احتمالية أن. تكون ردة الفعل غير. عقلانية أو مبالغاً.

فيها. والآن، مرة أخرى. ، إذا نظرت إلى تطور. سلامة السيارات أو. سلامة الطيران، ستجد. أننا نجحنا في التعامل. معها بشكل صحيح في. الماضي. لذا، لا أعتقد. أنه من المحتوم أن. ينتهي الأمر بكارثة. بطريقة أو بأخرى. لكنني أعتقد أن هذا. أمر صعب بشكل خاص لأنه. يحدث بسرعة كبيرة. حرفياً كل بضعة أسابيع. تظهر قدرة جديدة تكون. مثيرة ومقلقة في آن. واحد. وأعتقد أن العام. أو الثمانية عشر شهراً. القادمة ستكون.

زلزالية حقاً، سواء في. النقاش السياسي أو في. تطور التكنولوجيا. ولهذا السبب، أشعر. بالقلق من وجوب حدوث. شيء ملموس لكي تتغير. الأمور. >> شيء آخر يجب إضافته هو. أن السياسيين. الأمريكيين، لفترة. طويلة، وخاصة في العقد. الماضي، لم يظهروا. أنفسهم كبالغين أكفاء. عند التعامل مع. القضايا الجادة. أعني. أن طبيعة النقاش. السياسي في أمريكا. سخيفة للغاية في معظم. الأوقات. المشكلة هنا. هي أن السياسيين. يحتاجون فعلياً إلى.

أخذ وظيفتهم على محمل. الجد. وأعتقد أن بعض. استطلاعات الرأي التي. أجدها الأكثر إثارة. للاهتمام هي تلك التي. تجرى بين الناخبين في. الدول الغنية. عندما. تسألهم عن ثقتهم في. قدرة حكومتهم على. التعامل مع هذه. المسألة، تجد أن. الأرقام في معظم. الديمقراطيات الغنية. الأخرى أعلى بكثير. يفتقر الأمريكيون. بشكل واضح إلى الثقة. في أن قادتهم قادرون. على فعل أي شيء حيال. هذا، وهو جزء من السبب. الذي يجعلني أعتقد أن. استطلاعات الرأي ساءت. بسرعة كبيرة. لذا، كما. تعلم، على السياسيين. الآن القيام بعملهم.

بالفعل. الأمر مهم. دعونا نرى ما إذا. كانوا قادرين على ذلك.