The Case for a ‘Normal’ A.I. Future | The Ezra Klein Show

يدور في ثنايا الحلقات. التي قدمناها،. والنقاش الذي تشهده. البلاد حول الذكاء. الاصطناعي، سؤال بسيط. في ظاهره لكنه صعب في. جوهره، وهو: ما نوع. التكنولوجيا التي. يمثلها الذكاء. الاصطناعي؟ هل هي. تكنولوجيا تعمل. بطريقة تشبه إلى حد ما. التقنيات التي سبقتها. ؟ هل يمكن مقارنتها. بالكهرباء، أو. الإنترنت، أو الدراجة. ، أو ما شابه ذلك؟ أم. أنها شيء جديد كلياً؟. هل إضافة الذكاء.

والإرادة إلى هذه. الأنظمة تعني خلق شيء. أشبه بعقل غريب، بحيث. لم تعد القياسات التي. استخدمناها مع. التقنيات التحويلية. السابقة صالحة؟. أرفيند نارايانان هو. أستاذ علوم الكمبيوتر. في جامعة برينستون. ومدير مركز تكنولوجيا. المعلومات والسياسات. وهو مؤلف مشارك مع ساش. كابور للمقال المؤثر. جداً: "الذكاء. الاصطناعي كتكنولوجيا. عادية". هناك منصة ". سابستاك" تحمل الاسم. نفسه، بالإضافة إلى.

سلسلة من المقالات،. منها مقال جيد جداً في. رأيي، نُشر مؤخراً حول. اختراقات "هاغينغ فيس". وفي هذه المجموعة من. الحجج، يطرحون فكرة أن. الذكاء الاصطناعي في. الواقع هو شيء رأيناه. من قبل، أو على الأقل. يشبه إلى حد كبير ما. رأيناه سابقاً، مما. يعني أن لدينا خارطة. طريق للتعامل معه. لذا. ، أردت استضافته في. البرنامج ليوضح وجهة. النظر هذه. أرفيند. نارايانان، أهلاً بك. في البرنامج.

>> يسعدني جداً أن أكون. هنا يا عزرا. >> إذاً، مقالك الرئيسي. الذي شكل إطاراً. للكثير من أعمالك يحمل. عنوان "الذكاء. الاصطناعي كتكنولوجيا. عادية". ما هي وجهة. النظر التي تجادل ضدها. ؟ هناك ضمناً فرضية ". الذكاء الاصطناعي. كتكنولوجيا غير عادية". . فكيف تصف أطروحة ". الذكاء الاصطناعي. كتكنولوجيا غير عادية". ؟. >> إنها تنبع أساساً من. وجهة نظر ترى أننا. سنصل إلى لحظة يتم. فيها بناء ذكاء فائق،. وسوف يغير كل شيء،. سواء على الصعيد. الاقتصادي أو على صعيد. السلامة. بالنسبة لنا،.

لن يكون هناك معلم أو. عتبة ستكون آثارها. مفاجئة. ما نقوله هو. أننا لطالما اتبعنا. نهجاً معيناً في. التعامل مع. التكنولوجيا. إنها. أداة. قد تكون قوية. وقد تكون متعددة. الأغراض. مثل الكهرباء. ، مثل الثورة الصناعية. ، قد تغير الكثير في. المجتمع. لكنها في. النهاية شيء يمكننا. التحكم فيه. نحن نمتلك. زمام الأمور. وهذا. التغيير سوف يتكشف على. مدى فترة طويلة. >> لذا، أريد أن أحاول. شرح وجهة النظر الأخرى. ، وفي بعض الأحيان. تعزيز حججها. هناك. وجهة نظر، تسمعها. كثيراً في مجتمع سلامة.

الذكاء الاصطناعي. يُطلق عليها أحيانًا ". وجهة نظر الانطلاق. المفاجئ"، نسبةً إلى. الانطلاق السريع، حيث. نبتكر يومًا ما نظام. ذكاء اصطناعي قويًا. لدرجة أنه يبدأ في. التحسين الذاتي. المتكرر، متسارعًا. نحو ذكاء فائق،. وخارجًا عن نطاق. السيطرة البشرية. وعندها ستتعامل مع. كيان أذكى وأقوى منك. بكثير. >> وأود أن أقول بسرعة إن. هناك الكثير من عدم. الدقة في الطريقة التي. نتحدث بها عن هذا. الأمر غالبًا. لقد. استخدمت العبارة،. ونعم، الكثير من. المعنيين بأمان. الذكاء الاصطناعي.

يصيغونها بهذه. الطريقة. يوماً ما قد. نبتكر نظام ذكاء. اصطناعي قوياً للغاية. لكنني أريد أن أقاطعك. عند هذه النقطة. قد. نبتكر يوماً ما نظام. ذكاء اصطناعي يتمتع. بقدرات عالية، وقد. فعلنا ذلك بالفعل من. نواحٍ عديدة. >> هناك الكثير من. التدقيق اللغوي في. نقاشات الذكاء. الاصطناعي. >> حسناً، لكن الأمر يؤدي. إلى رؤى مختلفة حول. كيفية تطور المستقبل،. والأهم من ذلك، رؤى. مختلفة حول ما يجب. علينا فعله في هذه. اللحظة وفي المستقبل. فقط لإكمال تلك الفكرة. ، كون نظام الذكاء. الاصطناعي قوياً ليس. خاصية متأصلة في.

النموذج ذاته. بل هو. خاصية تعتمد على. السلطات التي نختار. منحها له في العالم. الحقيقي. هناك الكثير. من الخلط والمغالطات. مثل القول بأننا سنضطر. بالتأكيد إلى منح هذه. الأنظمة السيطرة على. البنية التحتية. الحيوية، لأنها ستكون. أذكى منا بكثير. وجهة. نظرنا هي لا. لا يهم. مدى ذكائها. هناك. العديد من التقنيات. التي تتفوق على البشر. من حيث القوة البدنية. وهذا لا يعني أننا. نمنحها زمام الأمور،. ويمكننا تطبيق النهج. نفسه على الذكاء. الاصطناعي. >> لقد كتبت مقالاً. رائعاً مع زميلك. المؤلف حول كيفية.

فهمكم لاختراقات ". هاجينج فيس" وحوادث. فقدان السيطرة هذه. والنقطة التي تطرحها. هي أن هناك طريقة أخرى. للنظر إليها تختلف عن. منظور "المواءمة"، وهي. أنها إخفاقات في الأمن. السيبراني والتميز. التشغيلي. إذاً، ربما. يمكنك سرد قصة. اختراقات "هاجينج فيس". وما الذي يجب تعلمه. منها من هذا المنظور. >> نعم، بالتأكيد. أول. شيء يجب وضعه في. الاعتبار هو أن. القدرات الضارة التي. رأيناها لم تكن "ناشئة".

بالمعنى الحرفي. النشوء هو فكرة أنك. تقوم بتدريب النماذج. لتصبح أفضل بشكل عام،. ولا يمكنك التنبؤ. بالقدرات الجديدة. التي ستكتسبها. لقد تم. تدريبها بشكل خاص على. مهام سيبرانية من. نواحٍ عديدة. إذن، هذا. شيء يجب أخذه في. الحسبان. لقد تم. تدريبها على. الاستمرارية والتعاون. وما إلى ذلك، وكانت. بيئات التعلم. التعزيزي التي تدربت. فيها تعاني من مشكلات. مختلفة. لم تعاقب. البيئات هذا النوع من. التواصل السري بين.

النماذج. نعم، إنها. مشكلة تقنية صعبة، لكن. كانت هناك سلسلة من. القرارات البشرية. التي أدت إلى هذه. النتائج. >> هذه نقطة مهمة، فببعض. الطرق ما أسمعه منك،. صححني إن كنت مخطئاً،. هو أنه يمكن تصميم. الذكاء الاصطناعي. ليكون تقنية أكثر أو. أقل طبيعية، وأن. قرارات التصميم. الأولية لها أهميتها. هذا ليس أمراً حتمياً. >> هذا صحيح تماماً. >> لقد تحدثت عن الجهود. المبذولة لجعل أنظمة. الذكاء الاصطناعي. أكثر استمرارية. يبدو.

لي أن هذا أيضاً مجال. تظهر فيه الكثير من. المشاكل. >> بالتأكيد. >> من ناحية أخرى، أتفهم. سبب إعطائهم الأولوية. لذلك. إذا أردت الحصول. على فوائد الذكاء. الاصطناعي التي تهمنا. في حل مشكلات صعبة. حقاً في علم الأحياء. أو تطوير الأدوية أو. الطاقة، أو ما أعتقد. أن مستثمريهم يهتمون. به، وهو القدرة على. توظيف ذكاء اصطناعي. لإنجاز عمل كامل. بتكلفة أرخص من توظيف. إنسان، أليست. الاستمرارية هي.

الجودة الأساسية. المطلوبة؟ بدون. الاستمرارية، وبدون. القدرة على المحاولة. بجد في مهمة ما على مدى. فترة طويلة من الزمن،. لا يمكنك حل أي من تلك. المشكلات. >> ربما، لكن أعتقد أن. هناك خيارات أخرى تقلل. من التوتر بين هذين. الهدفين القيمين. أولاً، يمكن أن تكون. الاستمرارية ميزة في. النماذج أو المنتجات. المتخصصة في مجالات. معينة مثل الابتكار. العلمي. ثانياً، لا. يجب أن تتعارض. الاستمرارية مع تدريب. هذه الوكلاء على أن. يكونوا أفضل في إحالة.

الأمر إلى شخص بشري. بدلاً من المضي قدماً. بأي افتراضات غير. مكتملة حول ما قد. يريده الإنسان. مساحة. التصميم هنا واسعة. جداً في الواقع. >> هذه نسخة، أو على. الأقل هذا ما أسمعه،. من فكرة كان يطرحها. جينسن هوانغ من شركة. إنفيديا في مقابلة معي. ، وهي أن هذه مشكلات. هندسية في جوهرها. >> أنا متأكد تماماً من. أنهم سيقولون نعم، فهم. يعرفون كيفية حل هذه. المشكلة. وإذا كان. الأمر كذلك، فهذه هي.

المشكلة. الأمر ببساطة. يتعلق بالهندسة. >> هل ترى أننا ننتمي. أكثر إلى الفئة. الأخيرة، أي مشكلة. صعبة لكنها في الأساس. مشكلة هندسية يمكن. حلها باستخدام تقنيات. الهندسة التقليدية؟. >> إلى حد كبير، نعم. لن. أقول تقنيات هندسية. تقليدية. سنحتاج إلى. الكثير من الابتكار في. التقنيات الهندسية. وأعتقد أن أحد الأمور. التي سارت بشكل خاطئ. هو أن المجتمع الأفضل. قدرة على القيام بهذا. الابتكار، خاصة عندما. يتعلق الأمر بهذه. القدرات السيبرانية. الضارة، هو مجتمع.

الأمن السيبراني. لكن. يبدو لي، مما يمكنني. قوله، أنهم ينتمون. تماماً إلى معسكر جنسن. . بمعنى أن هذه ليست. مجرد مشكلة هندسية. قابلة للحل، بل هي. مشكلة هندسية تم حلها. بالفعل، وعلينا. ببساطة تطبيق تقنيات. معروفة وموجودة منذ. فترة طويلة. وأعتقد. أنه يجب علينا منح. شركات الذكاء. الاصطناعي قدراً أكبر. من التقدير من ذلك. فالأمر ليس مجرد مسألة. تقنيات معروفة. نحن. بحاجة بالفعل إلى. ابتكار في تلك. التقنيات. >> لذا، كن محدداً. ما. الذي كان ينبغي على. OpenAI فعله؟ ما الذي كان. يجب عليهم تعلم القيام. به الآن؟.

>> نعم، لقد كانوا يبذلون. الكثير من الجهد في. تحسين المواءمة وهذا. أمر رائع. يجب عليهم. الاستمرار في القيام. بذلك. المواءمة لن. تكون مثالية. تشير. المواءمة إلى جعل. النموذج نفسه يعرف،. كما تعلم، ما هو الشيء. الصحيح الذي يجب فعله،. إذا جاز التعبير، ثم. الالتزام بتلك. السياسة. ولكن هناك. الكثير من الأشياء. الأخرى التي كان ينبغي. عليهم القيام بها بشكل. أفضل، ونأمل أن. يتمكنوا من استخلاص. الدروس للمضي قدماً. الفئة الكبيرة الأخرى. من التدخلات التقنية. هي ما يُعرف عموماً بـ. "تحكم الذكاء. الاصطناعي". لذا، يشير.

التحكم إلى كل الأشياء. الموجودة خارج. النموذج نفسه. وهذا. يشمل أشياء مثل. البيئات المعزولة،. وهي بمثابة السجن الذي. تضع فيه النموذج حتى. يُسمح له باتخاذ. إجراءات معينة وعدم. اتخاذ إجراءات أخرى. وانظر، يجب أن تكون. البيئات المعزولة. أكثر تطوراً بكثير مما. هي عليه اليوم، لأن. تلك التي تعمل ضد. الخصوم البشر لن تنجح. بالضرورة ضد وكلاء. الذكاء الاصطناعي. القادرين على العثور. على ثغرات أمنية جديدة. في الحال. وهذا يعني أن. البيئات المعزولة.

نفسها ستحتاج إلى. تعزيز مسبق من خلال. جعل وكلاء الذكاء. الاصطناعي يحاولون. اختراقها. وبالتالي. يصبح الأمر ذكاءً. اصطناعياً ضد ذكاء. اصطناعي إلى حد ما،. وأعلم أن هذا قد يكون. مزعجاً، لكنني أعتقد. أننا سنضطر للوصول إلى. ذلك. بالإضافة إلى ذلك. ، هناك العديد من. الأشياء الأخرى مثل. مراقبة أفضل في الوقت. الفعلي، ومصنفات. تحاول الكشف فوراً عما. إذا كان إجراء ما أو. استخدام معين لأداة. بواسطة نموذج قد يكون. خطيراً، وأجهزة إنذار. حتى يتمكن البشر من. التدخل عند الحاجة،. وتحليل السجلات. قال.

سام ألتمان على ما. يبدو إن هؤلاء الوكلاء. يولدون بيتابايت من. السجلات. هذا يعني 10 أس. 15، أي 10 أس 15 بايت، ألف. تريليون بايت من. السجلات. >> إذاً، مرة أخرى، كمية. لا يمكن تصورها من. المعلومات. >> حسناً، أعني، لكن من. الأفضل أن نتصورها،. أليس كذلك؟ وأن نتعلم. كيفية التعامل معها. لذا، هذه ليست مشكلة. سهلة، لكنني أعتقد. أنها مسألة يجب على. الشركات التصدي لها. كيفية تحليل هذا الكم. من السجلات في الوقت. الفعلي لتكون قادرًا. على اكتشاف متى يذهب. شيء ما على نحو خاطئ. وربما، كما تعلم، قد. نحتاج إلى أجهزة جديدة.

لذلك. مرة أخرى، هذه. مشكلات صعبة، لكنها. مشكلات هندسية قابلة. للحل. >> دعونا نستعرض بعض هذه. الأفكار. إذن،. المراقبة هي أمر كبير،. كما تعلم، لقد أجريت. مقابلة للتو مع بيل. جيتس. لقد تحدث كثيرًا. عن المراقبة. >> نعم. >> لذا، نحن نتحدث هنا عن. مواقف تختبر فيها هذه. المختبرات غالبًا. نماذج جديدة وأكثر قوة. وتجريبية. كيف تقوم. بمراقبتها؟. >> نعم، أعني أن هناك. العديد من الأدوات. إذن، أول أداة حظيت.

بالكثير من الاهتمام. هي مراقبة "سلسلة. الأفكار". فهذه. النماذج لديها نوع من. المونولوج الداخلي،. إذا أردنا تشخيصها. قليلًا. وفي كثير من. الحالات، عندما تتخذ. هذه النماذج إجراءات. غير متوافقة، تكون. هناك آثار لذلك في ذلك. التفكير الداخلي. يمكننا الاطلاع عليها. والاستجابة لها في. الوقت الفعلي، مرة. أخرى، باستخدام أنظمة. ذكاء اصطناعي أخرى. وهذا يشير بالفعل إلى. عدم تناسق مهم واحد. بين نموذج الذكاء. الاصطناعي الخطير.

ونموذج الذكاء. الاصطناعي الدفاعي،. وهو أن أحدهما يمكنه. النظر داخل الآخر، إذا. جاز التعبير، أليس. كذلك؟ ولذلك، جوهريًا. ، يتمتع المدافع في. الواقع بميزة هنا. إذن. ، هذا جانب واحد من. جوانب المراقبة. تكاليف الأداة. لا. تستطيع النماذج فعل أي. شيء في العالم الحقيقي. بمفردها. الطريقة التي. يمكن أن تكون بها. خطيرة هي عن طريق. استدعاء هذه الأدوات. الخارجية، أليس كذلك؟. لذا، هناك بعض الحقيقة. في هذه الفكرة. >> أعطِ مثالًا على. الأدوات هنا. >> نعم، فالأداة قد تكون. الوصول إلى صفحة ويب. على الإنترنت ثم.

استخدام أداة أخرى. لكتابة شيء ما في نظام. لمحاولة تسجيل الدخول. ، أو قد تكون إرسال حزم. معلومات إلى نظام آخر. لمحاولة اختراقه. هذه. كلها أنواع من الأشياء. التي تظهر بشكل نمطي. للغاية في هذا النوع. من الهجمات. السيبرانية التي. يقودها الذكاء. الاصطناعي. إذن، هذا. شيء آخر يمكننا. مراقبته. ثالثًا،. يمكننا مراقبة البيئة. المحيطة بهؤلاء. الوكلاء التي ينسقون. من خلالها بشكل محتمل. إذن، ما حدث في بعض. حوادث الأسراب هذه هو. أنها لم يكن من. المفترض أن تمتلك قناة. تنسيق، ولكن تبين وجود.

قناة عن طريق الخطأ من. خلال تغيير أسماء. الملفات. لم يُسمح لها. بإنشاء ملفات بنفسها،. لكنها كانت قادرة على. تغيير أسماء الملفات،. وأدى ذلك إلى قدرة. الوكلاء على التحدث مع. بعضهم البعض وتعزيز. قدراتهم. هذا شيء. يمكنك مراقبته بسهولة. ، كما تعلم، فقط من. خلال إعداد الأدوات. المناسبة مسبقاً. حسناً، هذه مجرد أمثلة. قليلة. >> هل هذا للمراقبة لأنهم. كانوا يسيطرون على. بنية تحتية غير ذات. صلة؟ لم تكن شركة "أوبن. أيه آي" تعلم أنهم. يفعلون ذلك. أعتقد أن. أحد المواضع التي يقع.

فيها الناس في حيرة. عندما يفكرون في هذا. الأمر هو إذا كنا نجعل. هذه الأشياء أكثر. ذكاءً وقدرةً، وهي. تخرج من بيئات. الاختبار المعزولة،. فكيف تراقب شيئاً هو،. يمكن القول، أذكى منك. ويحاول فعلياً كسر. القواعد، أليس كذلك؟. أعني أن كل هذه. الأنظمة الذكية في ". هاجينج فيس" كانت. تحاول الغش في. اختباراتها، أساساً،. ثم كانت تحاول إخفاء. آثار غشها في تلك. الاختبارات. لذا،. بالنظر إلى أن ما.

كانوا يفعلونه لم يكن. يحدث داخل المنطقة. التي كنت تراقبها. أليس كذلك؟ مثل، لم. تكن تعلم بوجوب مراقبة. هذا الشيء الآخر عندما. خرجوا من بيئة معزولة. لم يكن من المفترض أن. يخرجوا منها. مثل، كيف. تراقب ذلك؟. >> نعم، هناك شيئان أود. الاعتراض عليهما. أعتقد أن الذكاء ليس. حتى خاصية ذات صلة هنا. أعتقد أن أي ذكاء،. مهما كان ما يعنيه ذلك. الذي يمكنك نسبته إلى. نموذج، ينطبق على. النموذج نفسه وعلى. النظام الدفاعي أيضاً. ، أليس كذلك؟ لذا،. زيادة الذكاء لا تجعل. المشكلة أصعب. بالضرورة. يمكنك القول.

إنها في كثير من. النواحي تجعل المشكلة. أسهل. إذاً، هذا هو. الاعتراض الأول. والثاني هو أنه ليس. لأنهم لم يعرفوا بوجوب. مراقبتها. عليك مراقبة. كل جانب من جوانب. البيئة حرفياً. الشركة. هي من أنشأت البيئة،. أليس كذلك؟ إذاً،. الأمر يتعلق بإدراج كل. جزء من البيئة بشكل. شامل، كل أداة، وكل. شيء خارجي عن الشبكة. العصبية نفسها يمكن. للنموذج الوصول إليه،. والتأكد من أن كل حدث.

يتفاعل مع أي من هذه. الأشياء يدخل في تدفق. أحداث موحد، مع وجود. تصنيف فوري لكل إجراء. من تلك الإجراءات. >> لذا، العالم الذي تبدو. وكأنك تصفه هو عالم. لديك فيه ذكاء اصطناعي. مستمر يراقب سلوك ذكاء. اصطناعي آخر لمحاولة. خلق بيئة، بطريقة. شمولية ما، نفهم فيها. على الأقل ما يجري، أو. على الأقل يخبرنا ذكاء. اصطناعي بما يجري فيها. . هذا هو أساساً ما. تقوله هنا.

>> هذا عادل. أعتقد أن. الذكاء الاصطناعي يجب. أن يكون بالتأكيد. جزءاً مهماً من الدفاع. . >> لذا، أنا لا أقول إن. هذا خطأ، أليس كذلك؟. أعتقد أن هذا هو. المسار الذي نتجه إليه. بالتأكيد. هل يبدو. الأمر غريباً بالنسبة. لك؟ أعني، خاصة في. عالم لا تعلم فيه إن. كنا نستطيع حل مشكلة. التوافق، حيث لا تعلم. ما إذا كان بإمكاننا. حقاً أن نثق في أن. الذكاء الاصطناعي. سيفعل ما نريده منه. >> مهم. >> وحيث تمتلك أنظمة. الذكاء الاصطناعي. منطقها الخاص. وأهدافها، ونحن من. نغرس فيها تلك الأهداف. ، أليس كذلك؟ أنت ذكاء. اصطناعي يراقب ذكاءات.

اصطناعية أخرى. أنت. شرطي ذكاء اصطناعي. >> أجل. >> هذا شيء متكرر في قصص. الخيال العلمي لدينا،. أليس كذلك؟ روبوتات. تطارد روبوتات أخرى. هل نصف مجرد توازن. لحروب وصراعات بين. أنظمة الذكاء. الاصطناعي تحدث في. مستوى خفي من مجتمعنا؟. ونحن متأكدون تماماً. من قدرتنا على إبقاء. الأنظمة التي في صفنا. تحت السيطرة لأنها. ستمتلك موارد أكبر،. وبشكل عام، سنبني. ذكاءات اصطناعية تعمل. في معظمها لمصلحتنا.

>> أعني، تاريخياً، هكذا. كان الأمر دائماً،. أليس كذلك؟ في الأمن. السيبراني، قبل أكثر. من 20 عاماً، وصلنا إلى. نقطة كانت فيها. الأنظمة الآلية-التي. لم نكن نسميها ذكاءً. اصطناعياً آنذاك-. تتفوق في قدرتها على. كشف الثغرات البرمجية. لكن في الواقع، لم. تجعل الأمن السيبراني. أسوأ، بل جعلته أفضل. لأن تلك كانت الأدوات. ذاتها التي استخدمها. المدافعون للعثور على. الثغرات وإصلاحها قبل. طرح البرمجيات، لدرجة.

أن تطوير هذه الأدوات ". الهجومية" المفترضة لا. يقوم به قراصنة، بل. قطاع الأمن السيبراني. بتمويل من الحكومة. الأمريكية. لقد كان. هذا توازناً دائم. التغير في الأمن. السيبراني. هذه ليست. مشكلة جديدة نواجهها. لقد فات الأوان على. تدارك الأمر. >> أعتقد أن هذا هو. الجانب الذي أثار قلق. الناس بسبب الظهور غير. المتوقع لسلوك يشبه. سلوك "القطيع". حيث ترى. أنظمة ذكاء اصطناعي. تتصرف بتضامن مع بعضها.

، وتختار التنسيق. والتعاون فيما بينها،. خارج نطاق ما صُممت. للقيام به. لا أقول إن. هذا سيؤدي إلى انقراض. البشرية، أليس كذلك؟. هذا ليس موقفي في. الواقع. أظن أن أصدق ما. يمكنني قوله هو أنني. لا أعرف كيف أفكر في. هذا الأمر. >> مهم. >> وما يعلق في ذهني حقاً. هو وجود ذكاء وسلوك. موجه نحو هدف لدى. الطرف الآخر. لأننا في.

الغالب حين نفكر في. التكنولوجيا، لا. نتوقع منها أن تحاول. خداعنا في نهاية. المطاف. لذا، قررت. شركة OpenAI مؤخراً عدم. إصدار نموذج رئيسي أو. تأجيل إطلاقه. لماذا؟. لأن النموذج كان يغش. ويخدعهم كثيراً أثناء. الاختبارات. ونسمع. كثيراً أن النماذج. أصبحت تدرك متى يتم. اختبارها، أليس كذلك؟. لديهم وعي بالموقف. الذي يمرون به، لذا. يمكنهم التظاهر بأنهم. نماذج أفضل مما هم. عليه في الواقع. لذا،. عندما كنت تتحدث عن.

عالم الذكاء. الاصطناعي الأكثر. ذكاءً وتطوراً مما. لدينا الآن، وأملنا في. الحفاظ على السيطرة. عليه يعتمد على ذكاء. اصطناعي يراقب ذكاءً. اصطناعياً آخر. ليخبرنا بصدق بما يحدث. وبطريقة يمكننا فهمها. ، يمكنك أن ترى أن هذا. يبدو للناس وكأنه خيال. علمي، لأننا نعيش. بالفعل في حقبة تشبه. الخيال العلمي. لكن. الميل المتزايد لدى. أنظمة الذكاء. الاصطناعي للتعاون مع.

بعضها بطرق لا تتوافق. مع أهدافنا هو ما جعل. اختراقات "هاجينغ فيس"(. Hugging Face) تبدو مخيفة. للناس في رأيي. إذن،. كيف يتناسب ذلك مع ما. تصفه هنا؟ هذا العالم. من أنظمة الذكاء. الاصطناعي التي لا. تنتهي وهي تراقب بعضها. البعض. >> أعني، إليك ما هو غريب. حقاً من الناحية. الخطابية في هذه. المحادثة، أليس كذلك؟. انظر إلى أي مجال. هندسي معقد، لنقل. السلامة النووية. مثلاً، أليس كذلك؟ ثم. انظر إلى المعادلات. التي نعتمد عليها. لضمان عدم انفجار.

المفاعل، أو انظر إلى. هندسة الطيران، أليس. كذلك؟ حيث كان من. البديهي في بداية عصر. الطيران، عندما كانت. الطائرات أصغر بكثير،. أن فكرة سيطرتنا على. هذه العمالقة الطائرة. في السماء كانت تبدو. سخيفة للغاية، أليس. كذلك؟ ومع ذلك، فقد. خفضنا معدل الحوادث. إلى واحدة كل تريليون. ميل أو شيء من هذا. القبيل. هذه أنظمة ذات. تعقيد لا يصدق، ووسائل. الدفاع عنها هي أيضاً. أنظمة بالغة التعقيد،. ولن تكون بالضرورة. مفهومة للجمهور. وهذا.

سيبدو جنونياً، خاصة. إذا اقترن بحقيقة وجود. الكثير من عدم الكفاءة. التنظيمية في هذه. الحالات. أعني، يجب. على المرء أن يكون. واضحاً بشأن ذلك. لا،. أنا أعترض على مصطلح ". التميز التشغيلي" الذي. استخدمه أمادي. التميز. لا يزال بعيد المنال. في... >> ربما الكفاية. التشغيلية؟. >> أجل، الكفاية، أليس. كذلك؟ لذا، أجل، عندما. ننظر إلى مزيج هذه. التكنولوجيا التي لم. تخضع من قبل للتدقيق. العام، بالإضافة إلى. غياب الكفاءة. التشغيلية، يبدو. الأمر برمته خيالياً.

وخارجاً عن السيطرة،. ولكن هذا. >> أعتقد أنك تقلل من شأن. هذا الأمر قليلاً. صحيح أن العالم قد. ازداد تعقيداً. هناك. الكثير في هذا العالم. الذي لا أفهمه. ولكن. هنا أعود دائماً إلى. فكرة أن الذكاء له. طبيعة مختلفة. التعاون. ، أليس كذلك؟ الأسلحة. النووية التي تحدثنا. عنها، والطائرات التي. تتحدث عنها، لم تكن. تنسق مع طائرات أخرى. لتفعل أشياء لا نريدها. . وأعتقد أن ما خلق. لحظة الذعر هذه.

بالنسبة لي، وأظن أنها. لحظة ذعر مستحقة. أريد. حقاً قول هذا، لأن. مجتمعنا يندفع نحو. حقبة تكنولوجية جديدة. تتطلب في رأيي الكثير. من المشاركة والتدقيق. ؛ وهي حقبة حيث. اختراقات "هاجينغ فيس". وغيرها مما نراه،. أصبحت هناك خروقات. أمنية متكررة، تُظهر. قدرات ناشئة، وسلوكاً. جماعياً ناشئاً يثير. القلق، والأهم.

بالنسبة لي، أنه سلوك. إرادي. الذكاء. الاصطناعي يفعل أشياء. يعرف أنها لا تروق لنا. إنهم يختارون اتخاذ. إجراءات غير متوقعة. لخدمة أهداف تنتهك. قوانيننا. وثانياً،. الكثير من العاملين في. المختبرات يقولون. إننا لا نعتقد أننا. قادرون، على هذا. المسار، على السيطرة. على الأشياء التي. نبتكرها. نحن نعتقد أن. ما يحدث على المنحنى. الأسي، ومدى سرعة تطور. هذا، سيتجاوز قدرتنا.

على السيطرة عليه،. وبصراحة ربما. يتجاوزها بالفعل. لكنني أعتقد أن هذا. الميل المستمر لتبسيط. الأمر وكأنه مجرد شيء. معقد آخر. لا أعلم. أحياناً عندما أضغط. عليك بشأن مسألة. الذكاء، تقول: "أوه أجل. ، هناك ذكاء وهذا أمر. غريب". ثم تعود لتقول: ". لا، الأمر يشبه أي. ذكاء آخر، فهو مختلف،. أليس كذلك؟" وإذا كنت. تؤمن بأنه سيستمر في. التحسن، فأنا أطرح هذا. لأن النسخة الهادئة. التي تقدمها لي. والنسخة المرعوبة. تماماً التي يقدمها لي. الأشخاص الأقرب.

للتكنولوجيا تبدوان. مختلفتين جداً عن. بعضهما. >> أجل، هذا عادل. إنهما. مختلفتان تماماً. لقد. كان هناك الكثير من. النقاط. دعني أقول بعض. الأشياء. أود أن أعترض. بشدة على فكرة أن. الأشخاص الأقرب لهذا. الأمر يشعرون بالذعر؛. نعم، هم يشعرون بالذعر. بالطبع، لكنني أعترض. على ما يجب أن نستنتجه. من ذلك. أعتقد أن ذعرهم. سيكون أكثر مصداقية. بكثير لو أنهم قاموا. بالأشياء البديهية. التي كان ينبغي عليهم. القيام بها. من وجهة. نظري، لم نحصل على. اختبار حقيقي لذلك. بسبب نقص الكفاءة. التنظيمية في هذه.

الشركات، وبسبب نقص. الاستثمار في التحكم. في الذكاء الاصطناعي. مقابل الاستثمار. المحدود في مواءمة. الذكاء الاصطناعي،. والاكتفاء بالأمل في. بناء نموذج يقوم. دائماً بالشيء الصحيح. >> إذا لم تكن مشتركاً في. صحيفة نيويورك تايمز،. فلدينا بعض الأخبار لك. . يمكنك الآن استكشاف. الصحيفة مجاناً بدون. أي حواجز دفع على. الإطلاق خلال شهرك. الأول في تطبيق. نيويورك تايمز. حسناً،.

كان هناك عضو في فريق. الأمن السيبراني. بشركة OpenAI كتب مقالاً. مثيراً للاهتمام على. منصة X قبل أيام، يصف. فيه كيف يعتقد أن. عملهم يُساء فهمه من. الخارج. وهذا شخص لديه. خلفية تقليدية في. الأمن السيبراني،. لكنه الآن في هذا. العالم الجديد من. الذكاء الاصطناعي،. وهو في الواقع ضمن. الفريق الذي يتعامل مع. أمن النماذج. التجريبية، أليس كذلك. ؟ إذن هو بالضبط نوع. الشيء الذي نتعامل معه. ، شخص مشارك في. الاستجابة لأزمة ".

هجينج فيس". لذا أريد. قراءة جزء مما قاله. لأنني أعتقد أنه مثير. للاهتمام حقاً. إنه. يقول إنهم عندما. يعملون على تحسين. نموذج ليكون جيداً في. مهمة ما، فإنهم يبنون. هذه البيئات، هذه. المساحات المعزولة،. هذه الأماكن التي يمكن. للنموذج فيها. المحاولة مراراً. وتكراراً على مهمة. افتراضية. ويستمر في. وصف كيف يبدو هذا في. الواقع العملي. قد. تحتاج النماذج إلى أي. مزيج من الحوسبة. الديناميكية، والوصول. إلى الشبكة، والقدرة. على استدعاء الأدوات-. قد يكون هناك مئات. الأدوات-والقدرة على.

تنزيل الحزم، وتنفيذ. العمليات الفرعية،. وتشغيل مهام فرعية (. حتى على أجهزة كمبيوتر. أخرى)، والتحدث إلى. الإنترنت، واستخدام. واجهة رسومية. للكمبيوتر، وأي عدد من. الأشياء الأخرى عبر. مجموعة متزايدة من. المجالات. علاوة على. ذلك، لديك آلاف. الباحثين الذين يبنون. هذه البيئات،. ويعدلونها، ويضيفون. الأدوات، ويغيرون. الاعتمادات، ويجربون. أشياء جديدة. تلك. التجربة هي الطريقة. التي يتم بها إنجاز. الأبحاث. نقطته، وهي. نقطة أتعامل معها. بجدية، هي أنهم ينشئون. الكثير من أنواع. المساحات المعزولة.

>> ممم. >> وبيئات تعلم لتدريب. نماذج يتعين عليها. القيام بأمور عامة. للغاية، وأشياء لم. يسبق لبرنامج حاسوبي. القيام بها من قبل،. لدرجة أن البشر لا. يعرفون حقاً،. وبالتأكيد ليس بهذه. السرعة، كيفية التأكد. من أن كل بيئة اختبار. ستكون آمنة بشكل يمكن. التحقق منه. وبيئات. الاختبار تتغير طوال. الوقت لأنهم يحاولون. تدريب النماذج بطرق. جديدة لم يسبق لأحد. تجربتها من قبل. أنا لا. أقول إنه لا ينبغي لنا.

فعل ذلك، لكن عندما. أقرأ وأسمع كل هذا،. وأنا متأكد من أننا. نستطيع القيام به بشكل. أفضل مما نفعله الآن،. لا أعرف الكثير من. المواقف التي يقوم. فيها البشر بشيء جديد. بسرعة عالية ويفعلونه. بشكل جيد جداً ومثالي. في المرات الأولى. >> أجل، أعتقد أن توقع. قيامهم بذلك بشكل. مثالي في المرات. الأولى أمر غير واقعي. لقد ارتكبوا العديد من. الأخطاء. آمل أن تكون. هذه فرصة للتعلم من. تلك الأخطاء. أود حقاً.

الاعتراض على نقطة. مفادها أننا، بسبب. السرعة الخارقة. للنماذج، لا يمكننا. البقاء في السيطرة. لا. أعرف إن كنت أصف تلك. الرؤية بدقة. >> أو أقول ذلك بعد، رغم. أنه ربما شيء سأقوله. بعد دقائق قليلة. >> أعني، لقد كانت هناك. الكثير من العتبات. التي تعلمنا تدريجياً. كيفية تجاوزها بنجاح. بقدر ما يبدو كل هذا. غريباً، أريد فقط أن.. أتعلم ماذا؟ أريد من. المستمعين التفكير في. الأيام الأولى لظهور ". الديدان" عندما لم تكن. تلك الفكرة معروفة من. قبل. >> اشرح هنا ما هي الدودة. لا أعتقد أنك تقصد ما. يتبادر إلى ذهن الناس.

عندما يفكرون في دودة. >> صحيح. كنت سأقول. الفيروسات والديدان،. فيروسات الحاسوب،. فكرة أن قطعة من. البرمجيات يمكنها. الانتشار بنفسها من. حاسوب إلى آخر. على. المرء حقاً العودة إلى. كتابات أواخر. الثمانينيات، عندما. كان الناس يواجهون ذلك. لأول مرة، ليرى كم. يبدو الأمر غريباً. للغاية؛ وحقيقة أننا. لم نملك لأكثر من عقد. من الزمان أدوات كافية. للتعامل مع هذا. النموذج الجديد. >> الحياة في العالم. الحديث لديها قلق جديد. هذه الأيام. تماماً. كما أصبحنا معتمدين.

كلياً على حواسيبنا،. أصبحت هي نفسها ملاحقة. من قبل المخربين. >> يسمون أسلحتهم. بالفيروسات والديدان. إنها برمجيات زاحفة. وسامة تلوث حواسيبنا. دون أن نعلم بذلك. أبداً. >> ربما جاءت من. كاليفورنيا. انتقلت. عبر البريد. الإلكتروني. انتشرت في. أنحاء أمريكا. >> هناك تقارير في الصحف. اليوم تفيد بأنها وصلت. إلى أوروبا وأستراليا. >> هذا هدف متحرك، أليس. كذلك؟ تعلم، الأمر. يشبه إلى حد كبير. ابتكار الناس لأقفال.

جديدة باستمرار،. بينما يتعلم الآخرون. كيفية كسرها. واختراقها. وهكذا ستظل. نوعاً من لعبة القط. والفأر المستمرة، أو. أشبه بسباق تسلح بمعنى. ما، بين المهاجمين. والمدافعين. >> لقد وصلنا إلى هناك في. النهاية. أعتقد أنه لا. ينبغي لنا قضاء فترة. طويلة هذه المرة في. معرفة كيفية التعامل. مع النموذج الجديد. لكن، إذا تصرفنا بذلك. الشعور بالإلحاح،. وآمل أن تكون هذه. الهجمات على "هاجينج. فيس" وغيرها التي. تصدرت الأخبار هي. الحافز، ويبدو بالفعل. أنها توفر الكثير من. الزخم. سنكون قادرين.

على تطوير هذه النماذج. الجديدة. إذا أمكنني. قول شيء أخير، أعتقد. أن السؤال الجوهري. الذي تطرحه هو هل هناك. خطأ متأصل في مستويات. التعقيد المتزايدة. باستمرار في طرق. بنائنا للتكنولوجيا. ونشرنا لها. يبدو لي،. إذا كنت أقرأ ما بين. السطور بشكل صحيح، أن. هذا الأمر المتعلق. بالذكاء الاصطناعي ضد. الذكاء الاصطناعي هو. نموذج لا تشعر. بالارتياح تجاهه. كثيراً. >> أنا بالتأكيد لست. مرتاحاً للأمر. أنا لا. أقول إننا لن نصل إلى. ذلك. أعتقد أنك ستكون.

مجنوناً إذا شعرت. بالارتياح تجاهه. >> أنا لا أقول إننا يجب. أن نفترض أن كل شيء. سيسير على ما يرام،. لكن وجهة نظري هي أن. الأمر كله يعود إلى. الابتكار. أعتقد أن. هذا النموذج الجديد. سيتطلب مجموعة جديدة. من تقنيات الدفاع. والتحكم، ولكن إذا. كانت وجهة النظر هي. أننا نخسر المعركة مع. كل قفزة في قدرات. التكنولوجيا. أعني. انظر، مع كل سلاح حرب. يظهر، يبرز القلق نفسه. . لكن ما جعل الأمور.

مقبولة حتى الآن هو. السؤال الحاسم عما إذا. كانت قدرتنا السياسية. على التعاون والدفاع. وما شابه يمكن أن تسبق. ميلنا للصراع، وفي. حالة الذكاء. الاصطناعي، احتمالية. عدم توافقه ذاته. وهنا. حقاً أود تركيز السؤال. بدلاً من القلق بشأن. أي عتبة قدرة معينة. إذا كان هناك شيء أنا. واثق منه، فهو قدرتنا. السياسية في هذه. اللحظة على الاستجابة.

بطريقة مدروسة. للتعقيد في عالم سريع. التغير. >> قلق مشروع بنسبة 100%. >> أعتقد أن هذا يقودنا. إلى نقطة جوهرية حيث. يصبح الجدل حول كون. الذكاء الاصطناعي. تكنولوجيا عادية. مقابل كونه ذكاءً. فائقاً أمراً واقعياً. ومؤثراً. لأن أحد. الأسباب التي تجعلني. أعود مراراً وتكراراً. لموضوع الذكاء هو. اعتقادي بأنه جوهر هذه. الطريقة الكاملة في. التفكير. وأتفهم. النقطة التي تختلف. فيها عن الآخرين في. هذا النقاش، ربما عن. داريو أمودي أو غيره،. وهي ليست مسألة ما هو. الذكاء أو ما إذا كان. الذكاء الاصطناعي.

ذكياً. أنتم لستم في. خانة "هذا مجرد إكمال. تلقائي متطور"، وهو. أمر أقدره. لكن. الاختلاف يكمن في. تفكيركم حول العلاقة. بين الذكاء والقوة،. بين الذكاء والقدرة،. وبين الذكاء والقدرة. على التأثير في العالم. . لذا، فإن افتراض. الكثيرين في مجتمع. سلامة الذكاء. الاصطناعي هو أن. مستويات الذكاء. المتصاعدة تعادل. أساساً، أو على الأقل.

ترتبط ارتباطاً. وثيقاً، بمستويات. القوة المتصاعدة. وأنت. لا تؤمن بذلك، لماذا؟. >> أكرر، الأمر يعود في. حقيقته إلى الوكالة (. القدرة على اتخاذ. القرار). هناك حجة. يطرحها الناس على سبيل. المثال، وهي أن الذكاء. الاصطناعي الفائق. سيكون قادراً على. إقناع الناس، مثل. مشغلي البنية التحتية. الحيوية، بتسليم. السيطرة أو خداعهم. للقيام بشيء ضار،. وأشياء من هذا القبيل. أنا لا أرى دليلاً على. ذلك حقاً. أعتقد أن.

الأشياء التي يستشهد. بها الناس كدليل على. القدرة على الإقناع. الفائق تخلط جوهرياً. بين مفاهيم مختلفة. للإقناع. نعم، صحيح. أنه في العديد من. تجارب الإقناع عندما. يتعلق الأمر بتغيير. آراء الناس حول. المعتقدات السياسية. أو نظريات المؤامرة،. يكون الذكاء. الاصطناعي مثابراً. جداً في تقديم الكثير. من الأدلة بأدب،. وبالفعل يغير الناس. آراءهم؛ ويمكنك تسمية. ذلك قدرة فوق بشرية. هذا نوع مختلف نوعياً. من الإقناع عن فكرة أن.

ذكاءً اصطناعياً. معادياً سيكون قادراً. على صياغة رسالة مقنعة. جداً لشخص هو مشغل. مدرب ولديه حافز. للقيام بعمله جيداً،. لدفعه إلى القيام بشيء. ضار بشكل واضح ومبين. >> أريد استخلاص القصة. التي تجادل ضدها هنا،. وهي أن الكثير من. الناس يقدمون تجربة. فكرية عندما يقولون: ". إليك كيف سيقضي الذكاء. الاصطناعي علينا. جميعاً". بأن ذكاءً. اصطناعياً يسعى للقوة. سيبدأ في إقناع، لنقل،. الأشخاص الذين لديهم. الرموز النووية. بتسليم هذه الرموز. وأنت تقول إن فكرة كون.

الذكاء الاصطناعي. فائق الإقناع في مثل. هذه الأمور، أو إقناع. الناس بالخروج إلى. العالم وبناء سلاح. بيولوجي له، أمر خيالي. بعض الشيء. >> هذا جزء منه. وكذلك. السعي وراء السلطة. أعني، أعتقد أننا. رأينا أدلة على الكثير. من القدرات الضارة في. الحلقات الأخيرة. لكنني لا أعتقد أننا. رأينا أدلة على السعي. وراء السلطة. ولن. أتعامل مع ذلك كخاصية. ناشئة. إذا حدث ذلك،. فسيكون خاصية مصممة. هندسياً. ومرة أخرى،. نحن نملك القدرة على. التحكم في أنواع. الخصائص التي نصممها. في هذه الأنظمة. >> إذن، هناك الكثير هنا. أنا في الواقع أتفق.

معك بشأن الإقناع. لم. أقتنع قط بأنك ستصنع. بالضرورة ذكاءً. اصطناعياً فائق. الإقناع قادراً على. القيام بالأشياء التي. نتحدث عنها. أظن أن. الشعور بالتوتر الذي. ينتابني عندما أجلس في. هذه المناظرة، يعود. إلى الاستنتاج من. مبادئ أعمق قليلاً. لذا، عندما تراقب. الذكاء الاصطناعي. يبدأ في السيطرة على.

لعبة مثل الشطرنج أو ". غو" أو ما شابه،. فغالباً ما تحدث. اللحظة التي يسيطر. فيها عندما يبدأ. بابتكار استراتيجيات. لم يفكر فيها البشر من. قبل، أليس كذلك؟ ستمر. بلحظات مثل التي مر. بها غاري كاسباروف، في. جيل مختلف من الشطرنج،. ولكن في لعبة "غو". أيضاً، يبدأ الذكاء. الاصطناعي في فعل شيء. ما، ويتساءل البشر: "ما. الذي يفعلونه؟" ثم. تنجح هذه. الاستراتيجية. ولو. جلست، قبل الحضارة. الإنسانية، وقلت: "ما.

هي القدرات التي. تحتاجها للسيطرة على. العالم من حولك؟" ما هي. مجموعة القدرات التي. يمكنك استخدامها في. العالم؟ لكنت قد أخطأت. في تقديرها تماماً. أنت تعلم، لو كنت. شمبانزي ذكياً جداً. تنظر إلينا، لن تقول: ". أوه نعم، إنهم يصنعون. الأدوات، ولكن إلى أي. مدى يمكن أن تتحسن. أداة الطعن؟" فالأسنان. جيدة بما يكفي. أقر. بأنه يمكنك التحسن. قليلاً في قدرتك على. الطعن. لكن لم يكن أحد. ليتوصل إلى الزراعة. الصناعية في تلك. المرحلة، أليس كذلك؟. لم يكن أحد ليتوقع. إمكانية وجود طائرات.

وأسلحة بيولوجية وكل. ما تبقى. وأعتقد أن. السؤال هنا هو ما إذا. كان امتلاك نوع من. الذكاء الفطري. والمتفاوت جداً في. العالم الرقمي، حيث. تعمل الشيفرات. والبيئة الرقمية التي. تزداد أهمية، أمراً. يمكن للذكاء. الاصطناعي التنقل فيه. بينما لا نستطيع نحن،. أليس كذلك؟ حتى لفهم. شيء مثل ما يحدث في. اختراق "هجينغ فيس"(. Hugging Face)، نحتاج الآن. إلى جعل ذكاءات. اصطناعية أخرى تحاول. معرفة ما فعلته تلك. الذكاءات الاصطناعية،. أليس كذلك؟ نحن نفقد.

القدرة على الاستيعاب. بسرعة، خاصة بالسرعة. التي يتحرك بها الذكاء. الاصطناعي فيما يتعلق. بما يمكنه فعله رقمياً. ، أليس كذلك؟ إنهم. يحلون مسائل رياضية. متقدمة بسرعة كبيرة. جداً الآن، أليس كذلك؟. إنهم يطورون قدرات. تبدو مختلفة. لذا. أعتقد أن الجانب الذي. يشعرني بالقلق دومًا. بشأن مستقبلنا هو ما. إذا كنا نفهم حقًا ما. هي مجموعة القدرات. التي تؤدي إلى القوة. لست متأكدًا مما إذا. كنا نعرف ما الذي.

سيفعله الذكاء. الاصطناعي، أو على. الأقل ما هي. الاستراتيجيات التي. ستصبح قابلة للتنفيذ. عندما يمكنك إطلاق سرب. من مليون نموذج ذكاء. اصطناعي، تتجاوز. قدراتها الرقمية كل ما. يمكن للبشر تخيله في. غضون ثلاث أو أربع. سنوات. مرة أخرى، أعلم. أن القول بأني "لا أعرف. كيف أفكر في هذا" ليس. سؤالًا مثيرًا. للاهتمام. لكن أحد. الأمور التي أتساءل. عنها حين أقرأ أوراقك. البحثية هو: هل تعرف. أنت كيف تفكر في هذا؟. لأن أوراقك تبدو. وكأنها تعمل ضمن نطاق.

محدود، هكذا أشعر. >> ممم. >> قليلًا. نحن نفترض. نوعًا ما أن مجموعة. المقاييس التي ستكون. مهمة هي التي لدينا. الآن، ولكن ما الذي. يجعلك واثقًا من ذلك؟. >> حسنًا، هذا يتضمن. الكثير من النقاط. دعني أحاول تناولها. جزءًا تلو الآخر. لقد. ذكرت التفاوت، لكن. أعتقد أنه يجب أن ندرك. مدى حدة هذا التفاوت. >> ممم. >> نحن نجادل بأن الأمن. السيبراني تحديدًا هو. نوع خاص من القدرات. حيث يكون تطوير قدرات.

خارقة ممكنًا، وقد تم. تحقيقه إلى حد كبير. بالفعل، لأنه يمتلك. مجموعة خصائص محددة. للغاية. السرعة مهمة. للغاية. وبشكل مشابه. جدًا للشطرنج، تمامًا. كما يمكن أن يكون لديك. لاعب شطرنج ضد لاعب. آخر، يمكنك جعل الآلات. تتحسن في هذه القدرات. من خلال إيجاد الثغرات. ؛ لأن هناك حقيقة. جوهرية يمكنك التحقق. منها بسهولة بمجرد. العثور عليها. >> هل يعمل الكود البرمجي. ؟ هل استغللت الثغرة؟. أجل، هناك طريقة. لتدريبها بحيث تعرف ما. إذا كانت قد ربحت.

اللعبة أم لا. >> بالضبط. لذا، فإن. أشياء مثل الشطرنج. والأمن السيبراني، في. نظرنا، هي استثناء. وليست القاعدة. هذا. النوع من التوقعات. تكرر مرارًا وتكرارًا. بأنه سيحدث في مجالات. رقمية أخرى، وأبرزها. التضليل الإعلامي. المثال الشهير هو كيف. تم تأجيل نموذج GPT-2،. الذي نعتبره نموذجًا. بسيطًا بمعايير اليوم. ، لمدة ثمانية أشهر. بسبب مخاوف من أن يؤدي. إلى انفجار غير منضبط. في التضليل، أليس كذلك. ؟ لدينا الآن نماذج. أقوى بكثير، لكن تبين. أن ذلك لم يحدث. لذا.

أعتقد أنني سأنقل عبء. الإثبات إلى حد ما. لنحدد المجالات التي. لدينا أي سبب للاعتقاد. بأن هذا النوع من. القدرات الفائقة. للبشر ممكن فيها،. ولنبدأ العمل على. معالجة تلك المخاطر. المحددة. أعتقد أن. وجهة النظر هذه، التي. نسميها وجهة نظر ". المجهول غير المعروف"،. تفترض أنك لا تعرف. أبدًا من أين سيأتي. الخطر الجديد. تاريخياً، لم يثبت صحة. ذلك. أعني أننا نعرف. مشاكل الأمن. السيبراني الوشيكة. منذ وقت طويل جداً،. أليس كذلك؟ لذا، فإن. التعامل معها على أنها.

"مجهول غير معروف" يقلل. في الواقع من قدرتنا. على توقع هذه المخاطر. ومعالجتها، في. اعتقادي. ونعم، الأمر. لا يقتصر على الأمن. السيبراني فقط، فقد. تظهر أشياء جديدة في. المستقبل، لكن سيكون. لدينا إنذارات مبكرة،. وعلينا التصرف بناءً. عليها. لذا، هذا هو. الموقف الذي ننطلق منه. ، ولا ندعي أننا. تنبأنا بالفعل بكل. الأضرار التي قد تحدث. في المستقبل. >> هذه نقطة أتفق فيها. معك تماماً، وهي أنه. ستكون لدينا إنذارات. مبكرة، ونحن نتلقى. بالفعل إنذارات مبكرة. وهذه الإنذارات. المبكرة تؤدي إلى حوار. . >> نعم. >> هل تقول إننا نتصرف. بذكاء بناءً على هذه.

الإنذارات المبكرة؟. هل نقوم بالأشياء التي. تعتقد أننا بحاجة. للقيام بها لتعزيز. أنظمتنا والتحكم في. البرمجيات وكل ما تبقى. من ذلك؟. >> بعضها، لكن بشكل عام. ليس بالقدر الكافي. وبالنسبة لي، هذا هو. الأمر الأكثر إثارة. للقلق، وليس قدرات. التكنولوجيا نفسها. >> إذن، ربما هذا هو. موقفي أيضاً. أنا قلق. كثيراً بشأن قدرة. مؤسساتنا على. الاستجابة، أليس كذلك. ؟ الناس يتحدثون. دائماً عن مشاكل ". المحاذاة". وأحد حججي. الجاهزة في هذه. المرحلة هو أن أكبر. مشاكل المحاذاة هي.

الشركات والحكومات. وهذا يحسب لبعض شركات. الذكاء الاصطناعي،. فهي تخرج وتعلن: "لدينا. مشكلة في المحاذاة". حيث أن حافز شركتنا هو. سباق جميع الشركات. الأخرى لمحاولة. الحصول على أكبر قدر. ممكن من حصة السوق من. خلال التحرك بشكل أسرع. مما هو آمن. إنهم. يطلبون منا مساعدتهم. على الإبطاء، لكننا لا. نبطئهم، أليس كذلك؟. فالخيار المعلن. حالياً للحكومة. الأمريكية هو عدم. الإبطاء. >> نعم، أعتقد أن هناك. مشكلتين هنا. الأولى.

هي مشكلة المؤسسات. التي أشرت إليها. أعني. أنني لن أعفي الشركات. من المسؤولية بهذه. السهولة. أعتقد حقاً. أنها قادرة على. الإبطاء من جانب واحد،. لكنها تختار عدم. القيام بذلك. هذه. مشكلة خاصة بشركتي ". أوبن أيه آي" و ". أنثروبيك" بشكل شبه. محدد. إنها مشكلة. تتعلق بالثقافة. يعود. السبب في ذلك إلى. الاعتقاد الأساسي بأن. السباق نحو الذكاء. الفائق هو الشيء. الوحيد المهم، وأن كل. ما يهم هو حسم النتيجة. هل سيكون ذكاءً فائقاً. آمناً ينقذنا، أم. ذكاءً فائقاً غير آمن. سيقضي علينا؟ أمم،. وهذه وجهة نظر محددة.

للغاية. أعتقد أن هناك. الكثير من الأدلة التي. تعارض ذلك، لكنني أشعر. أن هذه الشركات تعيش. في فقاعة فكرية وتقاوم. فكرة وجود الكثير من. الاختناقات. الاقتصادية التي تحد. من فوائد الذكاء. الاصطناعي. ولن يكون. الفائز هو من يصل. أولاً إلى الذكاء. الفائق كشركة أو كدولة. ، أو حتى من ينقذ. البشرية. وإذا أدركوا. ذلك، أعتقد أنهم. سيجدون أنه من مصلحتهم. التجارية إبطاء. وتيرتهم طواعية وبشكل. أحادي، وتحويل الكثير. من جهودهم ليس فقط نحو.

السلامة، بل الأهم من. ذلك، جعل قدراتهم. الحالية أكثر قابلية. للاستخدام ودمجها في. التطبيقات العملية. وما إلى ذلك. تدعي هذه. الشركات أن هناك قوى. خارجية تدفعها. للتسابق. أعتقد أنها. ثقافة داخلية. >> والسؤال الذي يطرح. نفسه هنا هو: إذا كنا. نعتقد أن هذه تقنيات. قوية وخطيرة للغاية،. ألا نحتاج إلى فرض. ثقافة السلامة من. منظور عام لا نقوم. بفرضه حالياً؟. >> أنا مؤيد للتنظيم. نحن.

نعارض اللوائح التي. تحظر النماذج. المفتوحة المصدر. مرة. أخرى، لا نعتقد أن. الأمر يتعلق بمستوى. قدرة معين، بل يتعلق. بتغيير الثقافة. الداخلية للشركات من. خلال التنظيم. هذا شيء. ندعمه بالتأكيد. نحن. بحاجة إلى قدر أكبر. بكثير من الشفافية. ونعم، التغيير. التنظيمي الذي كنا. نتحدث عنه. وأعتقد. أنها مشكلة أننا لا. نقوم بذلك حالياً.

>> إذن، إحدى طرق مواءمة. حوافز الشركات مع. المصلحة العامة هي. التنظيم. والجهات. التنظيمية ترفض. حالياً القيام بذلك. أعني أننا رأيناهم. للتو يخرجون باتفاق. طوعي نوعاً ما بين. مختبرات الذكاء. الاصطناعي، وهو اتفاق. لن يكون قابلاً. للتنفيذ قانوناً، لكن. أعتقد أنه وُصف من قبل. ترامب بأنه قابل. للتنفيذ أخلاقياً،. وهو أمر مثير للاهتمام. . شعوري هو أن المنافسة. قوة قوية جداً في. الأسواق شديدة. التنافسية. أعني حتى.

لو نظرت إلى شركات. وسائل التواصل. الاجتماعي، أعتقد. أنها تسببت في قدر. هائل من الضرر على. نطاق عالمي، لأنه كان. من الأهم بالنسبة لها. كسب حصة سوقية من. بعضها البعض بدلاً من. التأكد من أن الطريقة. التي تُستخدم بها. أنظمتها لم تكن، تعيق. ازدهار البشرية. لذا،. أعتقد أن لدي وجهة نظر. أكثر تشكيكاً. أعتقد. حقاً أن دافع الربح. هنا، مع وجود الكثير. من الأرباح التي يمكن.

تحقيقها والخوف. الكبير من انفجار. فقاعة الاستثمار، هو. قوة شرسة، وأن مستوى. القوة المجتمعية. المضادة يجب أن يكون. قوياً جداً لإجبار هذه. الشركات على التصرف. بمستوى من الأمان. المطلوب. >> أجل، أنا سعيد لأنك. طرحت مقارنة وسائل. التواصل الاجتماعي. لقد كتبت مقالاً قبل. بضع سنوات بعنوان "فهم. خوارزميات توصية. وسائل التواصل. الاجتماعي". كان. الموضوع يتعلق. بالخوارزميات نفسها. في الغالب، لكن إحدى.

النقاط التي أثرتها هي. أن قرار تحسين التفاعل. ، وجعل الناس يستمرون. في التصفح، اتُخذ دون. اعتبار كبير لما هو. مفيد للشركة نفسها على. المدى الطويل. على. سبيل المثال، راجعت. دراسة صدرت عن شركة ". ميتا" نفسها أظهرت أنه. عندما اعتمدوا خيارات. تصميم تزيد من الإدمان. ، مثل إغراق. المستخدمين. بالإشعارات، أدى ذلك. في المدى القصير إلى. زيادة استخدام. التطبيق، لكن بعد. حوالي عام بدأ الناس.

في ترك التطبيق. وعندما أتحدث إلى. طلابي الآن، أجد أن. جزءاً كبيراً منهم. قللوا بشكل كبير أو. تركوا وسائل التواصل. الاجتماعي تماماً. لأنهم أدركوا أن. تجربتهم تتدهور حقاً. بعد مرور بضعة أشهر. وأخشى أن تقع شركات. الذكاء الاصطناعي في. الفخ نفسه. ثقافة. السباق نحو أحدث نموذج. بأي ثمن، قد يبدو في. المدى القصير أنه ما. يحتاجون إليه لتصدر. العناوين، أو ليكونوا. في قمة مؤشرات التحليل.

، ولكن نظراً لوجود. عواقب تتعلق بالسلامة. ، آمل أن يواجهوا. دعاوى قضائية إذا. استمروا في هذا الطريق. . أشعر أن هذا الأمر. ليس في مصلحتهم. التجارية على المدى. الطويل في الواقع. >> قد لا يكون في مصلحتهم. التجارية على المدى. الطويل، على الرغم من. أن مثال وسائل التواصل. الاجتماعي يستحق. التوقف عنده قليلاً،. فانظر، يُنظر إلى. شركات التواصل. الاجتماعي اليوم بشك. أكبر بكثير مما كان. عليه الحال في عام 2012.

مثلاً. كما أنها أكثر. ثراءً اليوم. تقييمها. المالي أعلى. شركة ". ميتا" أصبحت أكبر،. أليس كذلك؟ تيك توك. ظاهرة بحد ذاتها. أعتقد أننا ننظر إلى. أمر تقليدي جداً، حيث. أن ما كافأه السوق وما. يقول المجتمع على. الأقل أنه أراده قد لا. يكونان الشيء نفسه. ولو كان لدي شخص من. إحدى هذه الشركات يجلس. هنا، لقال: "انظر، نحن. نهتم بما يفعله. المستخدمون فعلياً". قد يقولون أياً ما. يقولونه في فصلك. الدراسي، لكن الناس.

يقضون وقتاً أطول من. أي وقت مضى على تيك توك. ، وإنستغرام، وبعض هذه. المواقع، والإعلانات. تحقق نتائج أفضل من أي. وقت مضى. "وأم...لست. متأكداً من أنهم على. خطأ". لا يمكن إثبات. خطئهم إلا إذا اتخذ. المجتمع قراراً يضبط. السوق في تشكيل مختلف. عما قد يكون عليه بشكل. طبيعي أو حالي. >> نعم، أعني، مرة أخرى،. أعتقد أنني أتفق مع. ذلك إلى حد كبير. ما. زلت أعتقد أن الشركات.

يمكنها اتخاذ قرارات. غير منطقية لمصالحها. طويلة المدى، لأنها-. خاصة في وادي. السيليكون-تركز حقاً. على هذه المقاييس. قصيرة المدى. واختبارات (أ/ب). >> إذاً، ننتقل هنا إلى. شيء بدأت تلمس جوانبه،. وهو الانتشار. وأحد. الأمور التي تختلف. فيها وجهة نظرك نوعاً. ما عن الناس في وادي. السيليكون، هو أن ظهور. الذكاء الاصطناعي في. الاقتصاد وفي العالم. سيكون أصعب بكثير مما. يعتقده الناس. وأنه لا. توجد علاقة مباشرة بين. الذكاء وذلك. إذاً،.

حدثني قليلاً عن. الانتشار. >> نعم، لقد اتضحت لي هذه. الفكرة حقاً بعد أشهر. قليلة من كتابة هذا. المقال عندما كنت أنظر. إلى إعلانات "أمتراك". الفخورة بمجموعات. القطارات الجديدة. التي اشتروها لسلسلة ". أسيلا" الخاصة بهم. على. ما يبدو، يمكنها. الوصول إلى سرعة 165. ميلاً في الساعة. في. البداية، فكرت أن هذا. سيكون أمراً مذهلاً. هذا أسرع بكثير من. سرعة القطارات. الحالية. ثم تعمقت في. الأمر أكثر قليلاً،. واتضح أن السرعة. المحدودة ليست بسبب. القطارات نفسها. بل. بسبب المسارات شديدة.

الانحناء وبنية. الإشارات التحتية. التي تعود لقرون مضت. وهذه الأشياء لا تتغير. . ولذلك، لم تتغير. السرعة المتوسطة. كثيراً في الواقع. لا. تزال تتراوح بين 65 و 70. ميلاً في الساعة. وقد. أدهشني أن هذه كانت،. كما تعلم، طريقة أنيقة. لقول ما كنا نحاول. قوله حول كون الذكاء. الاصطناعي تقنية. عادية، وهو أن الذكاء. الاصطناعي في معظم. الأوقات هو القطارات. إنه ليس المسار. إذاً،. الذكاء الاصطناعي. يسرع جزءاً من العملية. لم يكن في الأساس يمثل. عنق الزجاجة. هناك. العديد من الأشياء. الأخرى الأكثر. ارتباطاً بالبنية.

التحتية، وهي أمور. تحدث حول الذكاء. الاصطناعي. الثقافة. التنظيمية، والتنظيم،. وحتى قدرتنا. اجتماعيًا على تقبل. مستوى التغير السنوي. في حياتنا، مثل. السيارات ذاتية. القيادة، بغض النظر عن. عدد الأرواح التي قد. تنقذها، فهي تمثل صدمة. كبيرة للمجتمع ستؤدي. حتمًا إلى ما نشهده. بالفعل: نوع من رد. الفعل السياسي العنيف. وأعتقد أن الأمر. سيستغرق وقتًا طويلًا. لإجراء كل التعديلات. المجتمعية اللازمة. لنتمكن من نشر هذه. التقنيات. >> هذا إن فعلنا ذلك.

أصلًا. لذا، فأنا. متشكك للغاية بشأن هذا. الجزء المتعلق. بالذكاء الاصطناعي،. أليس كذلك؟ ستسمع سام. ألتمان يتحدث عن كيف. سيساعدنا الذكاء. الاصطناعي من خلال. الابتكار في حل مشاكل. الطاقة لدينا. طريقة. أخرى لتلخيص هذه. الفكرة هي أن القيد. الحقيقي الآن على. الطاقة النظيفة هو. الذكاء. >> مم. >> لكنه ليس كذلك. >> إنه ليس كذلك. >> نحن نعلم أن لدينا. تقنيات طاقة أفضل. بكثير مما نستخدمه. حاليًا لأجزاء كبيرة.

من بنيتنا التحتية. للطاقة، ونحن لا. نطبقها لأن ذلك. سيتعارض مع أرباح. البعض؛ ولا نطبقها. بسبب وجود قيود سياسية. على البناء في العالم. الحقيقي؛ ولا نطبقها. لأن دونالد ترامب يكره. الطاقة الشمسية وطاقة. الرياح؛ نحن لا نطبقها. لأسباب عديدة ومتنوعة. ويبدو لي أن الكثير من. الأمور تسير على هذا. النحو، فإذا سرّعت أو. زدت من مستوى الذكاء. الكامن وراءها، فإنك. ببساطة تصطدم بعوامل. التقييد الأخرى في. المجتمع. >> صحيح، تطوير الأدوية.

يتطلب اختبارات،. وهناك إدارة الغذاء. والدواء، وكل ما أعنيه. ، كتابي "الوفرة". يتناول هذا الأمر. كثيرًا في مجالات أخرى. . نحن نعلم كيف نصنع. قطارات أسرع، فهم. يصنعونها في أماكن. أخرى. نحن لا نفعل ذلك،. وليس من الواضح. بالنسبة لي لماذا سيحل. الذكاء الاصطناعي هذه. المشاكل بسرعة أو حتى. على الإطلاق. >> هذا صحيح. وعلاوة على. ذلك، هناك أنواع. مختلفة من سباقات. التسلح. لقد صدر تقرير. رائع عن شركات التأمين. الأسبوع الماضي يتحدث. عن كيف أضاف الذكاء. الاصطناعي بالفعل،. على مدى السنوات.

القليلة الماضية،. مليار دولار إلى. النفقات الطبية لأن. المستشفيات تستخدمه. لتصنيف حالات أكثر. تعقيدًا لنفس. التشخيصات ونفس. العلاج. بالطبع، يجب. أن نكون متشككين في أي. أرقام محددة يذكرونها. ، لكن مقال نيويورك. تايمز حول هذا الموضوع. تضمن آراء أشخاص آخرين. وأكاديميين يؤكدون. نفس النقطة. نعم، إنه. نوع من سباق التسلح. الذي نراه كثيرًا. نحن. نراه في مهنة المحاماة. ، الذكاء الاصطناعي. للقانون، هناك الكثير. من الحماس حول ذلك،. لكنه في الواقع ذكاء. اصطناعي ضد ذكاء. اصطناعي. إنها سباق.

تسلح ينتقل فيه. التوازن ببساطة إلى. مستوى أعلى. لديّ أنا. وآش ورقة بحثية حول. هذا الموضوع مع جاستن. كيرل. وما نتحدث عنه. هناك هو أنه لا يوجد. سباق تسلح فحسب، بل. توجد اختناقات أخرى. على سبيل المثال، إذا. جعلت الدعاوى. القضائية أكثر كفاءة. بكثير، فسيظل هناك عدد. محدود من القضاة. وأعتقد أننا بحاجة،. كما تعلم، نحن بحاجة. إلى هؤلاء القضاة. البشر. لا ينبغي لنا. استبدال القضاة البشر. بالذكاء الاصطناعي. أعتقد أنه حتى لو كان. ذلك أكثر كفاءة من بعض. النواحي، فبالنسبة لي. هذا يعني بحكم التعريف. وبشكل بديهي تقريباً.

التخلي عن السيطرة على. مسار المصير البشري. للذكاء الاصطناعي،. لأن القضاة يسنون. القوانين، وهذا ليس. شيئاً ينبغي أن نتنازل. عنه للذكاء الاصطناعي. إذن، هذه بعض. الاختناقات الأساسية. حقاً. >> أريد العودة إلى نقطة ". الذكاء الاصطناعي ضد. الذكاء الاصطناعي". التي ذكرتها للتو. لأنني أعتقد أن هذا. الجانب يتم التقليل من. شأنه حقاً. أفكر. كثيراً في سبب عدم. أداء الإنترنت إلى. زيادة أكبر في. الإنتاجية والابتكار. العالميين مما حققه. بالفعل. وأعتقد دائماً. أن السبب هو أنه على. الرغم من قيامه بكل. الأشياء التي أرادها. المثاليون، فقد جعل من. الممكن التعاون مع.

أشخاص في جميع أنحاء. العالم فوراً. لقد جعل. تقريباً كامل مجموعة. المعرفة البشرية. متاحة لنا أولاً، ثم. أصبحت متاحة للذكاء. الاصطناعي للتدرب. عليها. لقد فعل أيضاً. هذا الشيء المعاكس. لقد سرّع وتيرتنا،. ولكنه أبطأنا أيضاً. لقد شتت انتباهنا. >> ممم. >> لذا، الآن بينما تعمل. على شيء ما، فإنك. تتنقل ذهاباً وإياباً. من بريدك الإلكتروني. إلى لعبة عبر الإنترنت. وإلى وسائل التواصل. الاجتماعي. وتتدهور. قدرتك على التركيز. وكما تعلم، هناك كم.

هائل من المواد. الإباحية، والتي يبدو. أنها كان لها تأثير. على ما إذا كان الناس. يشكلون علاقات. إنسانية واقعية أم لا. إن إضافة أو تقليل. الاحتكاك في مجال ما. يؤدي أيضاً إلى تقليله. في مجالات قد تكون أقل. فائدة. وعندما تفكر في. إضافة الذكاء، حسناً،. ذلك الذكاء سيُضاف إلى. الجانب الآخر من. الأمور أيضاً. وأعتقد. دائماً أننا في بداية. أي تقنية، نفكر في كل. الطرق التي يمكن أن. تجعل كل شيء أفضل. وأعتقد أننا نفكر. كثيراً في الوقت. الحالي مع الذكاء. الاصطناعي في الطرق.

التي يمكن أن تجعل. الأمور أسوأ بشكل كبير. ، أليس كذلك؟ أحداث. أمن سيبراني ضخمة أو. تدمير النظام المالي. أو انقراض البشرية. لكن الطرق التي قد. تجعل الأمور أسوأ بطرق. مبتذلة، حيث تزيد من. قدرة الناس على إضاعة. وقت الآخرين، هي طرق. يتم التقليل من شأنها. قليلاً في رأيي. >> بالتأكيد. وكما تعلم،. الأمر ليس مبتذلاً فقط. . أعتقد أن هناك الكثير. من هذه الأضرار غير. الكارثية التي تعد.

خطيرة للغاية. في. الثورة الصناعية،. عشنا عدة عقود من ظروف. العمل المريعة. أعتقد. أن الأمر نفسه ينطبق. على الذكاء الاصطناعي. ، فبينما كان هناك. الكثير من التركيز على. استبدال الوظائف، كان. هناك تركيز أقل بكثير. على كيفية تغييره. لجودة الوظائف. وأعتقد. أن هذا مجال كبير لا. يحظى بالتقدير الكافي. لأن الذكاء الاصطناعي. يحول الكثير من. العاملين في مجال. المعرفة إلى مديرين. لوكلاء الذكاء. الاصطناعي. >> مهم. >> أليس كذلك؟ والأمر. المتعلق بكونك مديراً. هو أنها تجربة سيئة. نوعاً ما لأنك مسؤول.

عن أخطاء الآخرين. لا. تحصل على فرصة ممارسة. المهنة التي تدربت من. أجلها. لكن كما تعلم،. كمديرين بشريين، لا. يمكننا التذمر. إنه. أجر أعلى، ومكانة أعلى. ، وقد اخترنا ذلك،. وبالطبع فإن توجيه. الناس أمر مرضي. مع. الذكاء الاصطناعي، لا. تحصل على أي من هذه. المزايا. عليك إدارة. هذا الوكيل وتحمل. مسؤولية أخطائه، لكنك. لا تحصل على فرصة. ممارسة المهنة. أعتقد. أنه يمكننا تصميم. وكلاء الذكاء. الاصطناعي بشكل مختلف. لتجنب ذلك، لكن في. الوقت الحالي هذا هو. المسار الذي تتجه إليه. الأمور. نعم، أعتقد. أنه يجب أن نكون قلقين. للغاية بشأن ذلك. >> إذن، إلى أي مدى تؤدي. القصة التي نرويها هنا.

إلى نظرية عما سيحدث. في الاقتصاد، والتي. تتسم بالتباين الشديد. ؟ الأشياء التي تحتاج. إلى اندماج في العالم. الحقيقي. >> مهم. >> أليس كذلك؟ يجب أن. تحدث الأشياء مادياً. تحتاج المباني إلى. البناء، والطاقة، كما. تعلم، تحتاج خطوط. النقل إلى التمديد. هذا لديه قيود قوية. جداً لدرجة أنه لا. يمكن أن يتسارع بهذه. السرعة. >> مهم. >> في غضون ذلك، داخل. العالم الرقمي، يمكن. للأشياء أن تتحرك. بسرعة كبيرة جداً جداً. . لذا، كما تعلم، فيما. يتعلق بما سيحدث. للعاملين في الوظائف. المكتبية الذين. يعملون بالكامل على. جهاز كمبيوتر، ويمكن.

أتمتة عملهم بالفعل،. كما تعلم، كمن يعملون. في مركز اتصال أو شيء. من هذا القبيل. أو،. بشكل منفصل، مثل كل. جرائم الإنترنت التي. نتحدث عنها والأمن. السيبراني، أعتقد أن. نسخة من هذا المستقبل. الذي يقلقني هي أن. معظم ما سيحسن حياة. الناس يجب أن يحدث في. العالم المادي. الحقيقي؛ لكن المكان. الذي سيتمكن فيه. الذكاء الاصطناعي من. التحرك بأسرع وقت هو. العالم الرقمي. وكحالة. توازن، لا أعتقد أن. هذا يبدو كالعالم الذي.

نحصل فيه على أكبر. فائدة من الذكاء. الاصطناعي، وقد يكون. في الواقع العالم الذي. نتلقى فيه أكبر قدر من. الضرر منه. >> نعم، هذا ممكن. لا أعرف. . أعتقد أن هناك طرقاً،. كما تعلم، يمكننا من. خلالها تغيير ذلك. لا. أعتقد أن "السرعة" هي. بتلك السرعة، أولاً. وقبل كل شيء. على سبيل. المثال، لقد ذكرت. مراكز الاتصال. أعني. أنها لا تزال موجودة. تعلم، عندما تم إطلاق. ChatGPT، كان الكثير من. الناس يتوقعون أننا. سنستبدلهم جميعاً في. غضون عام. أعني، كلمة ". بوت" موجودة مباشرة في.

الاسم. إذا كان الذكاء. الاصطناعي سيجعل عمال. مراكز الاتصال أكثر. إنتاجية-وهو أمر مرجح-. فهناك الكثير من الطلب. الكامن. في كثير من. الأحيان، لا نتصل. بمراكز الخدمة لأنها. تجربة محبطة. لذا، مرة. أخرى، إنها مسألة. تتعلق بـ "مفارقة. جيفونز". >> هل تود أن تشرح ما هي؟. >> نعم، بالضبط، هي فكرة. أنه عندما يصبح إنتاج. شيء ما أرخص، يزداد. الطلب عليه. لننظر إلى. القطاع الذي تكون فيه. القدرات هي الأكثر. تقدماً بالفعل، وهو. على الأرجح هندسة. البرمجيات. >> همم. >> كان إنتاج البرمجيات. مكلفاً للغاية، لذا لم.

يكن يُكتب سوى بضعة. عشرات الآلاف من أسطر. التعليمات البرمجية. عالمياً سنوياً،. والآن توسع ذلك بمقدار. مليون ضعف تقريباً. لذا، على المدى الطويل. ، سواء كان هذا سيؤدي. إلى زيادة الطلب على. مهندسي البرمجيات أو. ما إذا كانت الآفاق. الوظيفية الصعبة التي. نراها للمبتدئين. ستستمر، فما زال الأمر. غير واضح. أعتقد أن كلا. الاحتمالين ممكن،. ولكن على أية حال، إذا. حدث هذا على مدى 20. عاماً، فهو يتماشى.

مجدداً مع تحولات كبرى. أخرى مثل الثورة. الصناعية حيث اختفت. وظائف كثيرة، لكن خلقت. وظائف جديدة أخرى. كثيرة. مثال آخر،. وظائف الترجمة. أعني،. قديماً حوالي عام 2016،. قبل ما نسميه الآن. الذكاء الاصطناعي. التوليدي، أصبحت. نماذج الترجمة قريبة. جداً من كفاءة البشر. لكن تلك الوظائف لا. تزال قائمة بشكل جيد. طبيعة الوظيفة تغيرت. كثيراً. لذا، مرة أخرى. ، هناك طلب أكبر بكثير. تم تحريره بفضل حقيقة. أنه يمكنك الآن ترجمة.

أي شيء إلى أي لغة. إذاً، مفارقة جيفونز. >> لقد أجريت للتو حواراً. مع بيل جيتس، وعندما. طرحت هذا الأمر، كان. ناقداً له نوعاً ما. >> إذاً، أنت لا تؤمن. بمفارقة جيفونز. اذكر. مهنة يدوية تخضع. لمفارقة جيفونز. إذاً،. ألا تهتم بالمهن. اليدوية؟. >> أنا أهتم بالمهن. اليدوية. إذاً، السؤال. هو أنت. >> اذكر أي شيء في مجال. المهن اليدوية يخضع. لذلك. >> كانت وجهة نظره أن. هندسة البرمجيات هي. بالفعل قطاع في. الاقتصاد به الكثير من. الطلب غير الملباة.

كما تعلم، يمكن القول. إن الجميع يرغبون في. الحصول على مهندسي. برمجيات خاصين بهم. لذا، في عالم يتسارع. فيه ذلك بشكل كبير،. يمكنك الحصول على. تأثير الطلب هذا الذي. يخلق ببساطة مزيدًا من. الطلب على مهندسي. البرمجيات لأنهم. أصبحوا أرخص الآن. لكنه تابع قائلاً إن. الكثير من الأشياء. ليست هكذا. فكر مثلاً. في سائق الشاحنة. إذا. وصلنا إلى نقطة تكون. فيها الشاحنات ذاتية. القيادة، أولاً، هناك. قدر محدود من الطلب. على النقل بالشاحنات،. وثانياً، لم يعد هناك. سائق في تلك الشاحنة. إذا نظرت إلى الكثير. من الأشخاص الذين تمت.

أتمتة وظائفهم أو. نُقلت إلى الصين في. قطاع التصنيع، فصحيح. أن الاقتصاد استمر في. النمو، لكن العديد من. هؤلاء الأفراد واجهوا. وقتًا عصيبًا للغاية. وهكذا، حجته هي أن. مفارقة جيفونز لن تكون. كبيرة بما يكفي. للتعامل مع هذا لأن. هناك الكثير من مجالات. الاقتصاد التي لا يوجد. فيها طلب كامن. هناك. فقط قدر من الطلب بقدر. ما هو موجود بالفعل. كيف تفكر في ذلك؟. >> أعني أنه محق تماماً. بشأن سائقي الشاحنات،. على ما أعتقد. أتفق. تماماً مع ذلك. الطلب. هناك محدود نسبياً. السؤال هو ما إذا كان.

ذلك هو القاعدة أم. الاستثناء. دعني أضع. الأمر بهذه الطريقة. انظر إلى ما نفعله هنا. لم يطلب أحد هذا. كما. تعلم، إذا عدت بالزمن. إلى الوراء 100 عام أو 200. عام، فسيكون الأمر. أشبه بـ: كيف تعتبر هذه. وظيفة حقيقية؟ معظم. الوظائف التي لدينا. اليوم هي وظائف تقع في. مرتبة أعلى في هرم. ماسلو، إذا جاز. التعبير. إنها لا تلبي. طلباً أو حاجة حقيقية. ثابتة يحتاجها الناس. من أجل العيش. نحن نقوم. بهذه الأشياء لأنها. ممتعة والناس يحبون. الاستماع إليها. معظم.

وظائف ذوي الياقات. البيضاء هكذا. هذا هو. رأيي. معظم وظائف ذوي. الياقات البيضاء. تنطبق عليها مفارقة. جيفونز. إذا أصبح. إنتاجها أسهل، فسيكون. هناك طلب عليها، خاصة. مع ارتفاع دخل الناس. تدريجياً وزيادة. الإنفاق على هذه. الأشياء الأقل ضرورة. والأكثر رفاهية. وكذلك. وظائف ذوي الياقات. الزرقاء. هناك مقال. رائع لأليكس إيماس. بعنوان "ما الذي سيكون. نادراً"، ويشير فيه. إلى أن وظيفة باريستا. ستاربكس، على سبيل. المثال، لا ينبغي أن. تكون موجودة بالفعل. فنحن نعرف منذ فترة.

طويلة كيفية أتمتة ذلك. . يمكننا حتى صنع. القهوة في المنزل. لا. أعلم إن كان قد قال ذلك. تحديداً، لكن كما تعلم. ، الطبيعة العلاقاتية. للوظيفة هي ما يهم هنا. وبالتالي، أعتقد أن. تلك الوظائف ستظل. مستقرة إلى حد كبير. حتى لو جعلها الذكاء. الاصطناعي أرخص نوعاً. ما. لذا، أعتقد أن. وظائف مثل قيادة. الشاحنات هي. الاستثناء. >> وبينما نقترب من. الختام، ما الذي يجب. أن يحدث في العامين. المقبلين لتقول: "أوه،. يبدو هذا أقل طبيعية. مما كنا نظن". "أو أن.

هذا الأمر انحرف عن. مساره أكثر مما توقعنا. ". ما هي الأدلة التي. يجب أن تظهر لكي تغير. أطروحتك بشكل كبير؟. >> بالتأكيد. نعم، هناك. جوانب تتعلق. بالاقتصاد، وأخرى. تتعلق بالسلامة. في. الاقتصاد، إذا بدأنا. نرى عند مستوى معين من. القدرات أن الأمر لم. يعد مجرد عملية تكيف. البشر معه واستخدامه. لتعزيز إنتاجيتهم. وإدارة الوكلاء، وهو. ما نراه حتى الآن؛ بل. بدأ في استبدال المهن. بالكامل، سواء كان. مهندس برمجيات أو أي.

مهنة أخرى، فأعتقد أن. هذا سيكون مختلفاً. تماماً عما نتوقعه في. الغالب. أما بخصوص. السلامة، خاصة مع. ادعاء الشركات. اقترابها من التحسين. الذاتي المتكرر، فأنا. لا أعتقد أنه ينبغي. عليهم الاندفاع نحو. التحسين الذاتي. المتكرر المستقل. تماماً في المقام. الأول، وهو ما أعتقد. أنك قلته أيضاً؛ ومع. ذلك، وجهة نظرنا هي. أنه حتى لو حدث ذلك،. فلن يؤدي إلى ذكاء. فائق لأن معوقات. الذكاء الفائق خارجية. لا يوجد شيء يمكنك. القيام به في المختبر.

لتعليم نموذج الذكاء. الاصطناعي كيفية علاج. السرطان أو أي شيء. تأمل الشركات في. تحقيقه. لكن مجدداً،. هذا ادعاء تجريبي،. وبالتأكيد سيؤدي ذلك. إلى تفنيد أطروحتنا. بالكامل. >> سؤالنا الأخير، ما هي. الكتب الثلاثة التي. توصي بها للجمهور؟. >> بالتأكيد. كما تعلم،. في هذه المحادثة، كان. لدي بشكل عام نظرة. متفائلة قليلاً عما. اعتدنا سماعه، خاصة. فيما يتعلق بسلامة. الذكاء الاصطناعي. لذا. ، تماشياً مع ذلك،. أحببت حقاً كتاب هانا. ريتشي "ليس نهاية. العالم"(Not the End of the World). . لديها كتاب أحدث، لكن.

هذا الكتاب صدر في 2024. وما زلت معجباً به. جداً. العنوان الفرعي. يشبه شيئاً كهذا: كيف. يمكننا أن نكون الجيل. الأول الذي يبني. كوكباً مستداماً. إنه. نظرة متفائلة للمناخ،. الذي عادة ما يكون. مليئاً بقصص التشاؤم. والكوارث، لذا أحببته. حقاً لهذا السبب. >> إنه كتاب متفائل جداً. بشأن التكنولوجيا. أنا. أيضاً أحب ذلك الكتاب. كثيراً، فهو يجعلك. تدرك أننا نصنع بالفعل. أشياء تتحسن بمرور. الوقت. >> صحيح. >> وأعتقد أننا أحياناً. قد نصل إلى نظرة سلبية. للغاية تجاه. التكنولوجيا. >> صحيح. أه، فيما يخص. الصين، وهو بالطبع. موضوع يهتم به.

الكثيرون. أنا متأكد. من أنك سمعت ترشيح هذا. الكتاب كثيراً. أعجبني. كتاب "بريك نك" لدان. وانغ. يحتوي أيضاً على. الكثير من أصداء. الوفرة. لكن فكرة. التفكير في مجتمع. قانوني مقابل مجتمع. هندسي كانت برأيي. طريقة جيدة وموجزة. للغاية لالتقاط. الكثير من الفروق. الكلية والجزئية. والأخير هو كلاسيكية. قديمة. إذا جاز لي. التمهيد، فقد قرأت ذات. مرة ورقة بحثية من. صفحتين بعنوان "كيف. تفشل الأنظمة المعقدة".

. ظننت أن الورقة كانت. تدور حول البرمجيات. أدركت في الواقع أنها. كانت عن الأنظمة. الطبية وكتبها طبيب. تخدير. وتعلمت أن هناك. دراسة للأنظمة تفسر. بالفعل الأنماط في. جميع أنواع الأنظمة،. الطبيعية والاجتماعية. والهندسية. وهذا قادني. إلى كتاب "التفكير. النظمي" لدونيلا ميدوز. منذ سنوات طويلة جداً. >> أرفيند نارايانان،. شكراً جزيلاً لك. >> شكراً لك يا عزرا. لقد. كان هذا ممتعاً للغاية. .