اليونسكو تحذر من الذكاء الاصطناعي لانه يقوم بالتحيز على أساس الجنس

اليونسكو تحذر من الذكاء الاصطناعي لانه يقوم بالتحيز على أساس الجنس

تقوم النماذج اللغوية الكبيرة لكل من الذكاء الاصطناعي لكل من شركة ميتا و أوبن ايه آي والتي تكون هي الأساس لأدوات الذكاء الاصطناعي التوليدي الخاص بالشركتين، بنقل تحزيرات على أساس الجنس، هذا بحسب ما حذرت به دراسة قامت منظنة اليونسكو بنشرها مع دنو يوم المرأة العالمي.

قامت اليونسكو بالتأكيد على أن نموذجي جي بي تي 2 و جي بي تي 3.5 من شركة أوبن أيه آي وبرنامج لاما 2 من شركة ميتا تقوم بأظهار تحيز ضد المرأة بشكل قاطع.

 

هل حذر مساعد المدير العام لليونسكو من الذكاء الاصطناعي

وقام توفيق الجلاصي مساعد المدير العام لليونسكو لشؤون الاتصالات والمعلومات، بأن التمييز في العالم الحقيقي لا يقوم بالانعكاس بالجانب الرقمي فقط، بل يقوم بالتصاعد أيضاً.

وقد أظهرت الدراسات التي أقيمت بين أغسطس 2023 ومارس 2024 أن النماذج اللغوية تميل بشكل أمثر لربط الأسماء المؤنثة بكلمات مثل منزل و أطفال و عائلة، وتقوم بربط الأسماء المذكرة بكلمات مثل تجارة و راتب و وظيفة.

وقامت السيدة ليونا فيرداديرو المتخصصة في السياسات الرقمية وللتحول الرقمي، بالتأكيد بأن هذه الشركة فشلت في تمثيل كل مستخدميها.

وأضافت في بيان أيضاً إن وجود أقل جزء من التحيز الجنسي في محتوا التطبيقات سيمكن من زيادة عدم المساواة بشكل كبير في العالم الحقيقي.

وللحد ومكافحة هذه التحيزات، قامت اليونسكو بوصاية الشركات التي تعمل في هذا القطاع أن تقوم بالاعتماد على التنويع بشكل أكثر في فرقها من المهندسين، والقيام بزيادة عدد النساء بالتحديد.

وقالت أن النساء يشكلون فقط 22% من اعضاء الفرق التي تعمل في مجال الذكاء الاصطناعي على مستوى العالم، هذا بحسب المنتدى الاقتصادي العالمي.

وقامت اليونسكو بدعوة الحكومات لأقرار المزيد من القوانين لاعتماد الذكاء الاصطناعي يقوم بالاستناد لمعايير أخلاقية.

تعليقات (0)