تم الكشف عن خوارزمية عرض الإعلانات على Facebook جديد ؟

وجد الباحثون أن خوارزمية عرض الإعلانات على Facebook تميز على أساس العرق والجنس والعمر في الصور :

هل سبق لك أن لاحظت أن الوجوه في إعلانات Facebook تتطابق مع جنسك أو عرقك أو عمرك؟

يقول باحثو علوم الكمبيوتر في جامعة نورث إيسترن ( Northeastern ) إن هذا ليس من قبيل الصدفة .

وجدت ورقة بحثية جديدة نشرتها مجموعة من الباحثين من كلية خوري لعلوم الكمبيوتر بجامعة نورث إيسترن ( Northeastern ) أن خوارزمية Facebook تقدم الإعلانات بشكل مختلف بناءً على من تم تصويره في الإعلان .

يقول MisloveAlan :

الأستاذ وكبير العميد المساعد للشؤون الأكاديمية في خوري ( Khoury ) وأحد مؤلفي البحث .

" عندما تختار تضمين صورة لامرأة مقابل رجل ، فإنها بشكل عام ستذهب أكثر إلى النساء ، باستثناء صور الشابات ، التي تذهب أكثر إلى الرجال الأكبر سنًا " .
الإعلان التمييزي موثق جيدًا على Facebook .
في حزيران (يونيو) ، حصلت وزارة العدل الأمريكية على اتفاقية تسوية بعد أن فرضت على Meta تحيزًا خوارزميًا لنظام توصيل إعلانات الإسكان .
الورقة نفسها جزء من تركيز أوسع على التدقيق الحسابي وتقديم الإعلانات لميسلوف (Mislove) ، الذي شارك في تأليف الورقة مع عالم الأبحاث المساعد في خوي بيوتر (Khoury, Piotr ) سابيزينسكي (Sapiezynski) ، دكتوراه .
أظهر العمل السابق للباحثين مدى إشكالية نظام توصيل الإعلانات على Facebook ، مما أدى إلى انحراف عرض الإعلانات وفقًا للخطوط الديموغرافية إلى حد كبير

وفقًا لميسلوف (Mislove) :

يتم تقديم إعلانات الوظائف في صناعة الأخشاب بشكل غير متناسب للرجال البيض ، في حين أن وظائف الحراسة تذهب بشكل غير متناسب إلى النساء السود .

يقول Mislove :

حدث غالبًا بشكل مستقل عما قاله المعلنون لنظام عرض الإعلانات على Facebook .
الطريقة التي يعمل بها المعلنون هي تحميل إعلاناتهم على Facebook ثم تحديد جمهورهم المستهدف ، مثل الأشخاص الذين تتراوح أعمارهم بين 18 و 35 عامًا في بوسطن

يقول ميسلوف (Mislove) :

" هذا عدد كبير من السكان " ، "من المحتمل جدًا ألا يتم عرض إعلانك لهم جميعًا " .
ستحدد الخوارزمية ، بمعنى ما ، أي مجموعة فرعية تراها ، وهي تفعل ذلك من خلال إجراء تقدير لمدى الصلة بالموضوع ، مما يعني المستخدمين الذين من المرجح أن يتفاعلوا مع هذا "

ولكن كيف تتعلم الخوارزمية التمييز؟ مثل أي خوارزمية ، يتم تدريب نظام توصيل الإعلانات على Facebook باستخدام البيانات. في هذه الحالة ، يتضمن ذلك جميع البيانات التي جمعتها Meta عن جميع الإعلانات السابقة التي تم تشغيلها على Facebook والتي نقرت على تلك الإعلانات.
يُظهر هذا البحث الأخير أن الصورة المضمنة في الإعلان هي أكثر ما تستجيب له خوارزمية Facebook بشدة .

يقول ميسلوف (Mislove) :

" ستكتشف الخوارزمية ما الذي يمكنني استخدامه والذي من المرجح أن يتسبب في نقر شخص ما؟ " ، " في هذه الحالة ، يتنبأ العرق والجنس بما إذا كان شخص ما سينقر ، لذلك يستخدم ذلك فقط لأن هذا هو بالضبط ما تم تصميمه للقيام به " .

يقول سابيزينسكي (Sapiezynski) :

"إن الخوارزمية لا تعرف أو تهتم بالعرق والجنس والعمر ، لكنها لا تزال تستخدم هذه الميزات لعمل تقديرات حول مكان إرسال إعلانات الإسكان أو الوظائف " .
"ربما يقول Facebook إنهم لا يحاولون القيام بتصنيف العرق من الصور ، لكن النتائج التي نقدمها تظهر ، على مستوى ما ، أن هذا يحدث لأن الخوارزمية لا تدرك أن هذا مجرد إعلان لشخص ما ولكن إنه نوع معين من الأشخاص من المرجح أن يتعامل معه السود "، كما يقول سابيزينسكي (Sapiezynski)

" لذلك ، بشكل فعال ، تقوم بتصنيف العرق على صور الناس " .
في بعض الحالات ، قد يكون هذا هو بالضبط ما يبحث عنه المعلن .
إذا كانوا يرغبون في جذب المزيد من النساء أو الأشخاص الملونين ، فمن المحتمل أن يستخدموا الصور مع النساء والأشخاص الملونين وستلتقط الخوارزمية ذلك عندما تقدم الإعلان .
في حالات أخرى ، يمكن أن يكون مشكلة كبيرة .

في ما أطلق عليه Mislove تأثير Creepy Old Man Effect ، تم تسليم الإعلانات التي تظهر الشابات بشكل غير متناسب إلى الرجال الأكبر سناً .
جزء من التحدي هو أن هناك القليل من الشفافية عندما يتعلق الأمر بكيفية عمل هذا النظام.
أنفق Mislove و Sapiezynski وفريقهم عشرات الآلاف من الدولارات وساعات لا حصر لها في إعداد الحملات الإعلانية التي استخدموها لمعرفة كيفية عمل هذا النظام.
لكن المعلن العادي لا يملك بالضرورة الوقت أو الموارد للقيام بذلك .
هناك أيضًا أسئلة سياسية أوسع حول كيفية تأثير حماية الحقوق المدنية الحالية في الخوارزميات والذكاء الاصطناعي .

قانون الإسكان العادل وقانون تكافؤ الفرص الائتمانية وقانون التمييز على أساس السن في التوظيف كلها تتضمن لوائح حول الإعلانات التقليدية - ولكن ليس الإعلانات على وسائل التواصل الاجتماعي .

"نحتاج إلى توضيح الأمر بشكل أكبر عند حدوث ذلك ، ولمن يحدث ، ثم منح المعلنين التحكم ليقولوا ،" ربما لا أريد أن تقوم خوارزمية عرض الإعلانات هذه بعمل ذلك على إعلان فرصة حيث من المحتمل أن يكون غير قانوني بسبب حماية الحقوق المدنية ".
بين الدعوى القضائية الأخيرة التي رفعتها وزارة العدل ضد Meta ومخطط البيت الأبيض لقانون حقوق الذكاء الاصطناعي ، يحتدم الجدل حول الآثار الواقعية لهذه الأنظمة.
تضغط شركات وسائل التواصل الاجتماعي من أجل التنظيم الذاتي ، لكن Mislove يقول إنه لا يوجد ضمان لمعالجة المشكلة .

يقول ميسلوف:

"أعتقد أن لديهم سجلًا سيئًا في التنظيم الذاتي" ، "في كثير من الحالات ، لا يرغبون في المشاركة في هذه القضايا لأنها تقع في صميم نموذج أعمالهم . ... ستحتاج بالتأكيد إلى تنظيم وقوانين لمعالجة ما يمكنك القيام به ، ولكن ليس من الواضح ما هي الطريقة الأفضل لفعل ذلك بعد ".
تم نشر البحث كجزء من وقائع المؤتمر الثاني والعشرون للقياس على الإنترنت ACM .