نشر أول تقرير دولي حول سلامة الذكاء الاصطناعي

قبل قمة عمل الذكاء الاصطناعي بنسختها الثالثة التي تستضيفها فرنسا، تم نشر أول تقرير دولي مستقل حول سلامة الذكاء الاصطناعي. وقد تم إعداده من قبل مجموعة عالمية تضم ما يقرب من 100 خبير في مجال الذكاء الاصطناعي، وتم تحديد مجموعة من التحديات التي تفرضها التكنولوجيا والتي سيتم استخدامها في المناقشات القادمة.

فيما يحدد “تقرير سلامة الذكاء الاصطناعي الدولي المستقل” أول فهم علمي شامل ومشترك لأنظمة الذكاء الاصطناعي المتقدمة ومخاطرها. ويجمع التقرير رؤى من 100 خبير دولي مستقل في مجال الذكاء الاصطناعي. تم تكليف التقرير من قبل أكثر من 30 دولة بما في ذلك فرنسا والصين والولايات المتحدة، بدعم تشغيلي من وزارة العلوم والابتكار والتكنولوجيا.

بينما يتصارع صناع السياسات في جميع أنحاء العالم مع التطورات السريعة وغير المتوقعة في مجال الذكاء الاصطناعي، يساهم تقرير اليوم في سد الفجوة من خلال تقديم فهم علمي للمخاطر الناشئة لتوجيه عملية صنع القرار.

يسلط التقرير الضوء أيضًا على مدى سرعة تطور التكنولوجيا في السنوات والأشهر الأخيرة، بما في ذلك كيف أصبحت أنظمة الذكاء الاصطناعي قادرة بشكل متزايد على العمل كوكلاء للذكاء الاصطناعي – التخطيط بشكل مستقل وتنفيذ مهام معقدة. ويهدف نشرها إلى سد الفجوات من خلال بناء أساس علمي من الأدلة لدعم صناع السياسات في تعزيز سلامة الذكاء الاصطناعي، في حين لا تزال الآثار الكاملة لأنظمة الذكاء الاصطناعي المتقدمة قيد الاكتشاف.

يسلط التقرير الضوء على وجود درجة عالية من عدم اليقين حول الطبيعة الدقيقة للعديد من التهديدات لتقنية الذكاء الاصطناعي وكيفية التعامل معها على أفضل وجه. وسيتم استخدام أول تقرير دولي عن سلامة الذكاء الاصطناعي لإعلام المناقشات الدبلوماسية القادمة حول كيفية التخفيف من مجموعة متنوعة من المخاطر المرتبطة بالذكاء الاصطناعي.

يذكر بأن التقرير تم الايعاز بتجهيزه بعد قمة سلامة الذكاء الاصطناعي الافتتاحية التي استضافتها حكومة المملكة المتحدة في بلتشلي بارك في نوفمبر 2023 – برئاسة الأكاديمي في مجال الذكاء الاصطناعي يوشوا بينجيو – ويغطي التقرير مجموعة واسعة من التهديدات التي تفرضها التكنولوجيا، بما في ذلك تأثيرها على الوظائف والبيئة، وإمكاناتها في نشر الهجمات الإلكترونية والتزييف العميق، وكيف يمكنها تضخيم التحيزات الاجتماعية.

كما يدرس المخاطر المرتبطة بتركيزات السوق على الذكاء الاصطناعي و”الفجوة المتزايدة في البحث والتطوير في مجال الذكاء الاصطناعي”، لكنه يقتصر على النظر في كل هذه المخاطر في سياق الأنظمة التي يمكنها أداء مجموعة واسعة من المهام، أو ما يعرف بالذكاء الاصطناعي للأغراض العامة.

فيما امتنع التقرير عن استخلاص استنتاجات نهائية بخصوص المخاطر العديدة التي تم تقييمها، مسلطًا الضوء على الدرجة العالية من عدم اليقين حول كيفية تطور التكنولوجيا فائق السرعة. ودعا إلى مزيد من الرصد وجمع الأدلة في كل مجال.

وجاء في التقرير: “تشير الأدلة الحالية إلى تحديين رئيسيين في إدارة مخاطر الذكاء الاصطناعي للأغراض العامة. أولاً، من الصعب تحديد أولويات المخاطر بسبب عدم اليقين بشأن شدتها واحتمال حدوثها. ثانيًا، قد يكون من المعقد تحديد الأدوار والمسؤوليات المناسبة عبر سلسلة قيمة الذكاء الاصطناعي، وتحفيز العمل الفعال”.

ومع ذلك، فإن التقرير واضح في استنتاجه بأن جميع التأثيرات المستقبلية المحتملة للذكاء الاصطناعي التي يحددها هي مسألة سياسية في المقام الأول، والتي سيتم تحديدها من خلال اختيارات المجتمعات والحكومات اليوم.

كما جاء في التقرير: “كيف يتم تطوير الذكاء الاصطناعي للأغراض العامة ومن قبل من، وما هي المشاكل التي تم تصميمها لحلها، وما إذا كنا سنكون قادرين على جني إمكاناته الاقتصادية الكاملة، ومن يستفيد منه، وأنواع المخاطر التي نعرض أنفسنا لها – تعتمد الإجابات على هذه الأسئلة والعديد من الأسئلة الأخرى على الخيارات التي تتخذها المجتمعات والحكومات اليوم وفي المستقبل لتشكيل تطوير الذكاء الاصطناعي للأغراض العامة”، كما قال، مضيفًا أن هناك حاجة ملحة للتعاون الدولي والاتفاق بشأن هذه القضايا.

“ستكون المناقشة العلمية والعامة البناءة ضرورية للمجتمعات وصناع السياسات لاتخاذ الخيارات الصحيحة”.

إن نتائج التقرير – التي تستند إلى تقرير مؤقت حول سلامة الذكاء الاصطناعي صدر في مايو 2024 وأظهر عدم وجود اتفاق من الخبراء بشأن أكبر المخاطر – تهدف إلى إعلام المناقشة في قمة عمل الذكاء الاصطناعي في فرنسا، التي تجري الآن.

“الذكاء الاصطناعي هو موضوع مركزي في عصرنا، وسلامته هي أساس حاسم لبناء الثقة وتعزيز التبني. وقالت كلارا شاباز، الوزيرة الفرنسية المفوضة للذكاء الاصطناعي والتقنيات الرقمية: “يجب أن يظل البحث العلمي الركيزة الأساسية التي توجه هذه الجهود”.

“يوفر هذا التقييم العلمي الشامل الأول قاعدة الأدلة اللازمة للمجتمعات والحكومات لتشكيل الاتجاه المستقبلي للذكاء الاصطناعي بشكل مسؤول. وستساهم هذه الأفكار في إثراء المناقشات الحاسمة في قمة عمل الذكاء الاصطناعي القادمة في باريس”.

المخاطر للذكاء الاصطناعي

عند دراسة المخاطر المجتمعية الأوسع نطاقًا لنشر الذكاء الاصطناعي – بما يتجاوز قدرات أي نموذج فردي – قال التقرير إن التأثير على أسواق العمل على وجه الخصوص “من المرجح أن يكون عميقًا”.

وأشار إلى أنه في حين أن هناك قدرًا كبيرًا من عدم اليقين في كيفية تأثير الذكاء الاصطناعي على أسواق العمل، فإن مكاسب الإنتاجية التي تحققها التكنولوجيا “من المرجح أن تؤدي إلى تأثيرات مختلطة على الأجور في مختلف القطاعات، وزيادة أجور بعض العمال في حين تنخفض أجور آخرين”، مع كون التأثير الأكثر أهمية في الأمد القريب على الوظائف التي تتكون بشكل أساسي من المهام المعرفية.

وقال إن تحسين قدرات الذكاء الاصطناعي للأغراض العامة من المرجح أيضًا أن يزيد من المخاطر الحالية على استقلالية العمال ورفاهيتهم، مسلطًا الضوء على الآثار الضارة التي يمكن أن تحدثها “المراقبة المستمرة وقرارات عبء العمل المدفوعة بالذكاء الاصطناعي”، وخاصة بالنسبة لعمال الخدمات اللوجستية.

ووفقا لتقييم أجراه صندوق النقد الدولي في يناير/كانون الثاني 2024 لتأثيرات الذكاء الاصطناعي على التفاوت – والذي وجد أن الذكاء الاصطناعي من المرجح أن يؤدي إلى تفاقم التفاوت دون تدخل سياسي – قال التقرير: “من المرجح أن يؤدي أتمتة العمل التي يقودها الذكاء الاصطناعي إلى تفاقم التفاوت من خلال تقليل حصة كل الدخل الذي يذهب إلى العمال مقارنة بأصحاب رأس المال”.

يمكن أن يتعمق التفاوت بشكل أكبر نتيجة لما يطلق عليه التقرير “فجوة البحث والتطوير في مجال الذكاء الاصطناعي”، حيث يتركز تطوير التكنولوجيا بشكل كبير في أيدي البلدان الكبيرة الواقعة في البلدان ذات البنية التحتية الرقمية القوية.

كما سلط التقرير الضوء على الاتجاه المتزايد لـ “العمل الشبح”، والذي يشير إلى العمل المخفي في الغالب الذي يؤديه العمال – غالبًا في ظروف محفوفة بالمخاطر في البلدان ذات الدخل المنخفض – لدعم تطوير نماذج الذكاء الاصطناعي. وأضاف أنه في حين يمكن لهذا العمل أن يوفر للناس فرصًا اقتصادية، فإن “طبيعة هذا العمل على غرار العقد غالبًا ما توفر القليل من الفوائد وحماية العمال واستقرارًا وظيفيًا أقل، حيث تقوم المنصات بتدوير الأسواق للعثور على عمالة أرخص”.

ويرتبط بكل هذا “الدرجة العالية” من تركيز السوق حول الذكاء الاصطناعي، مما يسمح لعدد قليل من الشركات القوية بالسيطرة على صنع القرار حول تطوير واستخدام التكنولوجيا.

وفيما يتعلق بالتأثير البيئي، لاحظ التقرير أنه بينما يتجه مشغلو مراكز البيانات بشكل متزايد إلى مصادر الطاقة المتجددة، فإن جزءًا كبيرًا من تدريب الذكاء الاصطناعي على مستوى العالم لا يزال يعتمد على مصادر الطاقة عالية الكربون مثل الفحم أو الغاز الطبيعي، ويستخدم كميات كبيرة من المياه أيضًا.

وأضافت أن تحسينات الكفاءة في الأجهزة المرتبطة بالذكاء الاصطناعي وحدها “لم تنفي النمو الإجمالي في استخدام الطاقة للذكاء الاصطناعي وربما تزيد من تسريعه بسبب” تأثيرات الارتداد “، لكن “الأرقام الحالية تعتمد إلى حد كبير على التقديرات، التي تصبح أكثر تقلبًا وأقل موثوقية عند استقرائها في المستقبل بسبب الوتيرة السريعة للتطور في هذا المجال “.

الأضرار الملموسة غير المقصودة للذكاء الاصطناعي

وسلط التقرير الضوء على “الأضرار الملموسة” التي يمكن أن تسببها الذكاء الاصطناعي نتيجة لإمكاناتها في تضخيم التحيزات السياسية والاجتماعية القائمة، وقال إنه قد “يؤدي إلى نتائج تمييزية بما في ذلك تخصيص الموارد غير المتكافئ، وتعزيز الصور النمطية، والإهمال المنهجي لبعض المجموعات أو وجهات النظر”.

ولاحظ على وجه التحديد كيف يتم تدريب معظم أنظمة الذكاء الاصطناعي على مجموعات بيانات اللغة والصور التي تمثل بشكل غير متناسب الثقافات الناطقة باللغة الإنجليزية والغربية، وأن العديد من خيارات التصميم تتوافق مع وجهات نظر عالمية معينة على حساب الآخرين، وأن تقنيات التخفيف من التحيز الحالية غير موثوقة.

وقال: “إن النهج الشامل والتشاركي الذي يشمل مجموعة متنوعة من وجهات النظر وأصحاب المصلحة أمر ضروري للتخفيف من التحيز”.

وفي صدى لنتائج التقرير المؤقت حول فقدان السيطرة البشرية على أنظمة الذكاء الاصطناعي – والتي يخشى البعض من أنها قد تسبب حدثًا على مستوى الانقراض – أقر التقرير بمثل هذه المخاوف لكنه أشار إلى أن الرأي يختلف اختلافًا كبيرًا.

“يعتبر البعض أن هذا الأمر غير معقول، ويعتقد البعض أنه من المحتمل أن يحدث، ويرى البعض أنه خطر احتمال متواضع يستحق الاهتمام بسبب شدته العالية”، كما جاء في التقرير. “وعلى نحو أكثر جوهرية، قد تحدد الضغوط التنافسية جزئيًا خطر فقدان السيطرة … [لأن] المنافسة بين الشركات أو بين البلدان يمكن أن تدفعها إلى قبول مخاطر أكبر للبقاء في المقدمة”.

المخاطر الناجمة عن الاستخدام الخبيث

فيما يتعلق بالاستخدام الخبيث للذكاء الاصطناعي، سلط التقرير الضوء على القضايا المتعلقة بالأمن السيبراني، والتزييف العميق واستخدامه في تطوير الأسلحة البيولوجية أو الكيميائية.

وفيما يتعلق بالتزييف العميق، أشار التقرير إلى التأثيرات الضارة بشكل خاص على الأطفال والنساء، الذين يواجهون تهديدات واضحة بالاعتداء الجنسي والعنف.

وقال التقرير: “إن طرق الكشف الحالية وتقنيات العلامات المائية، على الرغم من تقدمها، تظهر نتائج مختلطة وتواجه تحديات تقنية مستمرة. وهذا يعني أنه لا يوجد حاليًا حل قوي واحد للكشف عن انتشار المحتوى الضار الناتج عن الذكاء الاصطناعي والحد منه. أخيرًا، غالبًا ما يتفوق التقدم السريع لتكنولوجيا الذكاء الاصطناعي على طرق الكشف، مما يسلط الضوء على القيود المحتملة للاعتماد فقط على التدخلات التقنية والتفاعلية”.

وفيما يتعلق بالأمن السيبراني، أشارت إلى أنه في حين أظهرت أنظمة الذكاء الاصطناعي تقدماً كبيراً في تحديد نقاط الضعف السيبرانية واستغلالها بشكل مستقل، فإن هذه المخاطر يمكن إدارتها من حيث المبدأ، حيث يمكن استخدام الذكاء الاصطناعي دفاعياً أيضاً.

وقالت إن “التقدم السريع في القدرات يجعل من الصعب استبعاد المخاطر واسعة النطاق في الأمد القريب، وبالتالي تسليط الضوء على الحاجة إلى تقييم ومراقبة هذه المخاطر”. “هناك حاجة إلى مقاييس أفضل لفهم سيناريوهات الهجوم في العالم الحقيقي، وخاصة عندما يعمل البشر والذكاء الاصطناعي معًا. ويتمثل التحدي الحاسم في تخفيف القدرات الهجومية دون المساس بالتطبيقات الدفاعية”.

وأضافت أنه في حين يمكن لنماذج الذكاء الاصطناعي الجديدة إنشاء أدلة خطوة بخطوة لإنشاء مسببات الأمراض والسموم التي تتجاوز خبرة مستوى الدكتوراه، مما يساهم في خفض الحواجز أمام تطوير الأسلحة البيولوجية أو الكيميائية، إلا أنها تظل عملية “معقدة تقنيًا”، مما يعني أن “الفائدة العملية للمبتدئين لا تزال غير مؤكدة”.