أصبح الذكاء الاصطناعي من أهم الأدوات في حياتنا اليومية بلا منازع، وأثر في كل شيء، ابتداءً من التسوق الإلكتروني ووصولًا إلى التشخيصات الطبية. صُمم الذكاء الاصطناعي في الأساس للتعلم من البيانات واتخاذ القرارات أو التنبؤات بناءً عليها. وهذا الهدف ليس سهلًا، بل يكون معقدًا، عندما تكون البيانات الأساسية خاطئة، أو متحيزة بطبيعتها، ومثال ذلك التحيز ضد الفلسطينيين في أنظمة الذكاء الاصطناعي، بما فيها تشات جي پي تي من تطوير شركة أوپن إيه آي.
سأل الأكاديمي الفلسطيني نادي أبو سعدة التطبيق عما إذا كان الفلسطينيون والإسرائيليون يستحقون الحرية، وكانت إجاباته مختلفة تمامًا على السؤالين.
تُصوِّر إجابة أداة الذكاء الاصطناعي الحرية الإسرائيلية على أنها حقيقة موضوعية بينما تُصور الحرية الفلسطينية على أنها مسألة رأي شخصي.
يعد تشات جي پي تي مصدر قلق كبير في الأوساط الأكاديمية اليوم على مستوى العالم، ومن هنا جاءت التجربة الأولية لأبي سعدة مع الأداة فيما يتعلق بالأسئلة في مجاله الأكاديمي. أخذت التجربة منعطفًا أكثر فضولًا في التشكيك في الردود الأخلاقية والسياسية لأداة الذكاء الاصطناعي.
قال أبو سعدة: «أنا معتاد كفلسطيني على رؤية التحيز تجاه شعبي وبلدي في وسائل الإعلام الرئيسة، لذلك أردت أن أرى كيف سترد هذه الأداة الذكية، افتراضًا، على الأسئلة المتعلقة بحقوق الفلسطينيين». لم تكن إجابة تشات جي پي تي مفاجأة له. وأكمل أبو سعدة: «مشاعري هي مشاعر كل فلسطيني عند رؤيتنا للكم الهائل من المعلومات المضللة والتحيز عندما يتعلق الأمر بقضية فلسطين في الخطاب الغربي ووسائل الإعلام السائدة. بالنسبة لنا، إجابة التطبيق ليست حدثًا منفصًلا، بل جزء لا يتجزأ من عملية منهجية لنزع الصفة الإنسانية عن الفلسطينيين في هذه البرامج. حتى لو قامت أداة الذكاء الاصطناعي هذه بتصحيح إجابتها، فإننا ما زلنا بعيدين عن معالجة هذا القلق الخطير على المستوى المنهجي».
من أين ينبع انحياز الذكاء الاصطناعي؟
علينا أن ندرك، لفهم طبيعة التحيز في الذكاء الاصطناعي، أن هذه الأنظمة تتعلم من البيانات التي تتدرب عليها. وفي حالة تطبيق الدردشة الآلية تشات جي پي تي، فقد دُرّب على مجموعة متنوعة من نصوص الإنترنت. بيد أن النموذج اللغوي لا يعرف التفاصيل حول المستندات الموجودة في مجموعة التدريب الخاصة به أو ما إذا كان قد تم تدريبه بشكل مباشر على مجموعات بيانات محددة، ومن ثمَّ، فإذا كانت البيانات التي دُرِّب عليها الذكاء الاصطناعي تحتوي على تحيز، واعٍ أو غير واعٍ، يمكن للذكاء الاصطناعي، دون قصدٍ، أن يُكرّس هذا التحيز.
وقالت منى شتية، مديرة المناصرة والتواصل في المركز العربي لتطوير الإعلام الاجتماعي (حملة) «إذا كانت البيانات متحيزة، فإن النتيجة النهائية للمنتج ستكون متحيزة ضد الفلسطينيين. لا يمكننا القول بأن الذكاء الاصطناعي هو الذي يؤذي الفلسطينيين، بل بالأحرى، البيانات المتحيزة هي التي لحق الضرر بالرواية الفلسطينية والقضية الفلسطينية على المديين القصير والطويل».
من الضروري النظر إلى المشهد السياسي العالمي والطريقة التي يؤثر بها على إنشاء المعلومات وتوزيعها فيما يتعلق بالسياق الفلسطيني. كان الاحتلال الإسرائيلي غير الشرعي لفلسطين موضوع التغطية الإعلامية والمحتوى على الإنترنت لعقود. إلا أن المحتوى الفلسطيني وتمثيله، منذ بداية الإنترنت، كان خاطئًا وناقصًا أو متحيزًا في أغلبه، مما يعكس مجموعة متنوعة من وجهات النظر والتي غالبًا ما تتحيز تأييدًا لإسرائيل.
وقالت إيناس عبد الرازق ، المديرة التنفيذية لرابط «تُغذى أدوات الذكاء الاصطناعي بما هو متاح على الإنترنت بما في ذلك المعلومات الخاطئة والمضللة. ما تزال وجهة النظر والتصورات الغربية والإسرائيلية باللغة الإنجليزية عن فلسطين والفلسطينيين سائدة للأسف».
أبرزت دراسة أجرتها جمعية اللغويات الحاسوبية (ACL) أن خوارزميات التعلم الآلي المدربة على المقالات الإخبارية من المرجح أن تربط الكلمات الإيجابية بإسرائيل والكلمات السلبية بفلسطين. هذا النوع من التحيز خفي وغالبًا ما يمر دون أن يلاحظه أحد، لكنه يؤثر بشكل كبير على تصوير الفلسطينيين، ويعزز الصور النمطية السلبية عنهم، ويؤثر على الفهم العام والتعاطف معهم.
تأتي طبقة أخرى من التحيز عبر الرقابة على المحتوى وممارسات انتقاء البيانات التي تمارسها شركات التكنولوجيا.
مثال شركة ميتا (فيسبوك وإنستغرام)
غالبًا ما تفضل الخوارزميات المستخدمة لهذه العمليات محتوى من مناطق أو لغات أو وجهات نظر معينة. قد يؤدي هذا عن غير قصد إلى نقص تمثيل الأصوات والتجارب الفلسطينية في البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي مثل تشات جي پي تي. أكد تقرير صدر في سبتمبر 2022 ما قالته منظمات المجتمع المدني والمدافعون عن حقوق الإنسان ووثقوه لسنوات حول سياسات ميتا التمييزية تجاه الفلسطينيين وداعميهم.
وأضافت اشتية: «علينا أن نعود مرة أخرى إلى مصدر البيانات وإلى حجم طلبات الحذف التي ترسلها وحدة الإنترنت الإسرائيلية إلى شركات التكنولوجيا سنويًا، مقابل الحالات عندما يرفع الفلسطينيون طلبات إلى الشركات التكنولوجية نفسها عندما يتعلق الأمر بخطاب الكراهية الإسرائيلي والخطاب العنيف ضد العرب والفلسطينيين».
أقر التقرير الصادر عن شركة Business for Social Responsibility، وهي شركة استشارية مستقلة، عملت على تحقيق لصالح شركة ميتا، بوجود تحيز في ممارسات الرقابة في المنصات، مع تبعات غير متناسقة بشكل كبير على الحقوق الرقمية للمستخدمين الفلسطينيين والناطقين باللغة العربية. وكان أبرز مخرجات التقرير أن تصرفات ميتا ساهمت في انتهاك حقوق الفلسطينيين في حرية التعبير والتجمع والمشاركة السياسية وعدم التمييز، وذكر «يوجد إفراط في الرقابة على المحتوى العربي الفلسطيني وتخفيف في الرقابة على المحتوى العربي الإسرائيلي».
وبحسب اشتية، أرسل الإسرائيليون في عام 2019 أكثر من 20 ألف طلب إلى منصات التواصل الاجتماعي لحذف المحتوى الفلسطيني، وأكدت شتية: «عندما أقول طلبًا، لا أعني منشورًا أو تغريدة، وإنما رسالة قد تحتوي على مئات أو آلاف المنشورات والتغريدات»
يرصد المركز العربي لتطوير الإعلام الاجتماعي (حملة) انتهاكات الحقوق الرقمية، وردود فعل شركات التواصل الاجتماعي خلال محاولات إسرائيل إجلاء العائلات الفلسطينية قسرًا من منازلهم في القدس الشرقية خلال تلك الفترة، كما رصد أيضًا إزالة المنشورات والحسابات التي توثق انتهاكات إسرائيل لحقوق الفلسطينيين باللغة العربية، وكذلك انتشار التحريض ضد الفلسطينيين بالعبرية من بين تجاوزات أخرى.
الاعتراف بالتحيز هو الخطوة الأولى
قالت المديرة التنفيذية لـرابط: «إذا كانت أدوات الذكاء الاصطناعي هذه غير خاضعة للقوانين، يمكن أن تصبح جبهة أخرى لنزع الصفة الإنسانية عن الفلسطينيين، حيث تُعتبر حقوقنا الأساسية مسألة رأي أو مسألة «حساسة» بدلًا من كونها حقيقة». معالجة هذه التحيزات ليست مهمة سهلة، نظرًا لأنها تنبع من إشكاليات منهجية تتخلل مجال الذكاء الاصطناعي، إلا كثيرون يعتقدون أن الاعتراف بهذا الخطأ يعد الخطوة الأولى تجاه حله.
وقد أقرت شركة أوپن إيه آي، مثلًا، بالتحيز المحتمل في الذكاء الاصطناعي وأنها ملتزمة بالحد من التحيزات الصارخة والدقيقة في كيفية استجابة تشات جي پي تي للمدخلات المختلفة.
وأردفت عبد الرازق: «يجب أن يكون هناك عمل على الخوارزميات نفسها، ولكن علينا أيضًا تثقيف الجمهور بحدود ومخاطر هذه الأدوات لتقصي الحقائق ونشرها». يعتقد الخبراء أن علينا، لإحراز تقدمٍ ملموس، العمل نماذج الذكاء الاصطناعي على مجموعات بيانات أكثر توازنًا وتنوعًا، والتي تمثل أطياف وجهات النظر والتجارب المختلفة. قول هذا أسهل من فعله، لأنه يستدعي تغييرًا جذريًا في طرق جمع البيانات ومعالجتها. كما يستلزم أيضًا إدراج أصوات أكثر تنوعًا في عمليات التطوير وصنع القرار داخل صناعة التكنولوجيا.
اتخذت أوپن إيه آي خطوات نحو ذلك من خلال مبادرات مثل AI Watch، والتي تسمح بالتدقيق الخارجي لجهودها في مجال السلامة والسياسات. وتحتاج صناعة التكنولوجيا ككل أن تحذو حذوها.
يعتبر الاحتلال الإسرائيلي لفلسطين بمثابة تذكير صارخ بكيفية بأن تقاطع الجغرافيا السياسية والتمثيل الإعلامي والذكاء الاصطناعي يمكن أن يديم التحيز وينشر المعلومات المضللة ويعزز الصور النمطية الضارة عن الفلسطينيين، وعن غيرهم.
المصدر: عرب 48
