تميل أدوات الذكاء الاصطناعي المخصصة للصور إلى إبراز الكليشيهات المزعجة، حيث تصوّر الأفارقة بدائيين، والأوروبيين علمانيين، وتصنف القادة بأنهم رجال، وتُظهِر المساجين بأنهم سود البشرة.
تعكس هذه الصور النمطية واقعًا مُشوهًا، نابعًا من البيانات التي تستخدمها هذه التقنية، والتي تستمد غالبًا من الإنترنت. تتميز هذه البيانات بالسمية، إذ تحتوي على محتوى إباحي، وتروج لكراهية النساء، وتحمل عناصر العنف والتعصّب.
هكذا يُلقي الضوء على الأمور فريق من الباحثين الذين قاموا بدراسة نماذج توليد الصور المدعومة بالذكاء الاصطناعي مثل “ستيبل ديفيوجن” و”DALL-E”، ونوهوا إلى جهود شركات مثل “ستابيليتي إي آي” في تقليل الانحياز في أحدث نماذجها.
رغم التحسينات التي تم إدخالها، ظلت هذه الأدوات تُظهِر الصور النمطية الغربية. يشير الباحثون إلى أن هذا الانحياز ينشأ جزئيًا من عدم التركيز على توفير بيانات متنوعة من مصادر عالمية، مما يجعل النماذج تعتمد بشكل أساسي على السكان البيض في التدريب.
شددت شركة “ستابيليتي إي آي” على أهمية تعزيز الشفافية واقترحت فكرة إنشاء مولد للصور محلي لكل بلد يعكس القيم والثقافة الوطنية. وفي هذا السياق، يرى الخبراء أن تحسين البيانات والعمل بجد لتطويرها يُعَدّ خطوة أساسية نحو التخفيف من الانحياز في هذه التقنيات.
مع ذلك، يظل السؤال حول كيفية مواجهة هذا الانحياز مفتوحًا، حيث تعتبر بعض الجهود الحالية لتحقيق ذلك غير كافية، ويُشير الباحثون إلى أن هذا الانحياز يمكن أن يؤثر سلبًا على الصورة التي يتشكل لها الناس عبر وسائل التواصل الاجتماعي وصناعة الصور بشكل عام.
