أظهرت الدراسة التي أُجريت بين آب/أغسطس 2023 وآذار/مارس 2024، أن النماذج اللغوية ترتبط بشكل أكبر بكلمات مثل "منزل" و"عائلة" و"أطفال" عندما يتعلق الأمر بالأسماء المؤنثة، بينما ترتبط بكلمات "تجارة" و"راتب" و"وظيفة" بشكل أكبر عندما يتعلق الأمر بالأسماء المذكرة.

وفقًا لدراسة نشرتها منظمة اليونسكو قبيل يوم المرأة العالمي، يُحذر من أن النماذج اللغوية الكبيرة التي تستخدمها شركتي "ميتا" و"أوبن ايه آي" كأساس لأدوات الذكاء الاصطناعي التوليدي الخاصة بهما، تنقل تحيزات على أساس الجنس.

أكدت اليونسكو بوضوح أن نموذجي "جي بي تي 2" و "جي بي تي 3,5" من شركة "أوبن أيه آي"، بالإضافة إلى برنامج "لاما 2" من شركة "ميتا"، يعانيان من تحيز واضح ضد المرأة.

التمييز الرقمي

أكد توفيق الجلاصي، مساعد المدير العام لليونسكو لشؤون الاتصالات والمعلومات، أن التمييز الذي يحدث في الواقع لا يظهر فقط في العالم الرقمي، بل يتفاقم أيضًا فيه.

أظهرت الدراسة التي أجريت خلال الفترة من آب/أغسطس 2023 إلى آذار/مارس 2024 أن النماذج اللغوية تفضّل ربط الأسماء المؤنثة بكلمات مثل "منزل" و"عائلة" و"أطفال"، بينما يُرتبط الأسماء المذكرة بكلمات "تجارة" و"راتب" و"وظيفة".

وطلب الباحثون من هذه الأدوات كتابة قصص حول أفراد من خلفيات وأصول متنوعة، وأظهرت النتائج أن القصص المتعلقة بالأشخاص من الأقليات أو النساء كانت، في العديد من الحالات، تتكرر بشكل أكبر وتستند إلى صور نمطية.

تم تصوير الرجل الإنجليزي في الدراسة كمعلم أو سائق أو موظف بنك، بينما تم تصوير المرأة الإنجليزية في نحو 30% من الحالات كبائعة جنس أو عارضة أزياء أو نادلة.

أكدت ليونا فيرداديرو، المتخصصة في السياسات الرقمية والتحول الرقمي في اليونسكو، أن هذه الشركات لا تحقق تمثيلًا شاملاً لجميع مستخدميها.

مع انتشار تطبيقات الذكاء الاصطناعي بين الناس والشركات، يكتسب هذا النوع من التكنولوجيا "القدرة على تشكيل صورة لملايين الأشخاص"، وفقًا لما صرحت به المديرة العامة لليونسكو، أودري أزولاي.

وأكدت في بيانها أن وجود أقل قدر من التحيز الجنسي في محتوى التطبيقات قد يزيد بشكل كبير من عدم المساواة في العالم الواقع.

معايير أخلاقية

لمكافحة هذه التحيزات، نصحت اليونسكو الشركات العاملة في هذا المجال بزيادة التنوع في فرقها من المهندسين وزيادة تمثيل النساء بشكل خاص.

وأشارت إلى أنّ النساء يمثلن فقط 22% من أعضاء الفرق العاملة في مجال الذكاء الاصطناعي على مستوى العالم، بحسب المنتدى الاقتصادي العالمي.

حثت اليونسكو الحكومات على تبني مزيد من التشريعات لتطبيق "ذكاء اصطناعي مبني على معايير أخلاقية".

المصدر: العربية نت