تساعدك أخلاقيات الذكاء الاصطناعي على استخدام الأنظمة الذكية بطريقة تحترم الإنسان، وتحمي البيانات، وتتيح مراجعة القرارات. تبدأ الممارسة المسؤولة بتحديد الغرض من الأداة والأشخاص المتأثرين بها، ثم اختبار الدقة والتحيز والسلامة، وتعيين مسؤول بشري يستطيع التدخل عندما تظهر مشكلة.
ما المقصود بمبادئ أخلاقيات الذكاء الاصطناعي؟
تجمع توصية اليونسكو بشأن الاستخدام الأخلاقي للأنظمة الذكية بين احترام الحقوق والكرامة الإنسانية والعدالة والخصوصية والاستدامة والإشراف البشري. وهذه المبادئ تتصل بتصميم النظام وبياناته وطريقة تشغيله، وبالقرارات التي يتخذها الأشخاص والمؤسسات حوله.
يمكنك فهم أخلاقيات الذكاء الاصطناعي من خلال سؤال عملي: من يستفيد من هذا الاستخدام، ومن يتحمل خطأه؟ تختلف الإجابة بين أداة تقترح عنوانًا لعرض دراسي وأداة تؤثر في ترتيب المتقدمين لوظيفة، ولذلك يختلف مستوى الاختبار والمراجعة المطلوب بينهما.
لتطبيق أخلاقيات الذكاء الاصطناعي في مشروع صغير، اكتب وصفًا واضحًا للمهمة قبل اختيار المنتج. حدد النتيجة التي تريد تحسينها، والبديل المتاح، وما إذا كانت الأتمتة ضرورية أصلًا، ثم اجعل هذه الإجابات أساسًا لتقييم الأداة بدل الاكتفاء بجاذبية عرضها التجريبي.
- حدد المشكلة التي يعالجها النظام وحدود دوره.
- سمّ الفئات التي تتأثر بالنتيجة مباشرة أو بصورة غير مباشرة.
- عين شخصًا يملك صلاحية مراجعة الاستخدام وإيقافه.
العدالة: افحص النتائج على مستوى الفئات
تظهر قيمة أخلاقيات الذكاء الاصطناعي عندما يتجاوز التقييم متوسط الدقة إلى أثر الأخطاء على أشخاص مختلفين. يدرج إطار المعهد الوطني الأمريكي للمعايير لخصائص الذكاء الجدير بالثقة إدارة التحيز الضار ضمن عناصر الثقة، إلى جانب الموثوقية والسلامة والخصوصية.
لنفترض مثالًا افتراضيًا لأداة تراجع طلبات تدريب مكتوبة بالعربية. يمكنك اختبارها على نصوص متقاربة في المؤهلات ومختلفة في طريقة التعبير، ثم البحث عن فروق لا تفسرها معايير المهمة، مع تجنب إدخال بيانات أشخاص حقيقيين دون أساس مناسب.
تقتضي أخلاقيات الذكاء الاصطناعي توثيق سبب اختيار معيار التقييم نفسه، لأن تعريف النجاح يغير ما يقيسه النظام. فإذا كانت المهمة خدمة المتعلمين، فاسأل عن وضوح الشرح وقابلية الوصول، إلى جانب صحة الإجابة، ولا تحول سهولة القياس إلى تعريف وحيد للجودة.
- اختبر حالات تمثل المستخدمين المقصودين فعلًا.
- قارن أنواع الأخطاء وأثرها، وليس عدد الإجابات الصحيحة فقط.
- راجع الحالات التي تستبعدها البيانات أو تفشل الأداة في فهمها.
الخصوصية: ابدأ بما تحتاجه من البيانات
ترتبط أخلاقيات الذكاء الاصطناعي بالقرار الذي تتخذه قبل رفع أي ملف: هل تحتاج الأداة هذه المعلومات فعلًا؟ لتنظيم استخدامك، احذف التفاصيل غير اللازمة للمهمة، وافصل بين البيانات العامة والمعلومات الشخصية والوثائق السرية قبل اختيار طريقة المعالجة.
كخطوة عملية، راجع سياسة الخدمة وشروط الحساب الذي تستخدمه، ودوّن ما تقوله عن الاحتفاظ بالمحتوى والوصول إليه واستخدامه. لا تنقل افتراضًا من خدمة إلى أخرى، ولا تعتمد على وصف تسويقي مختصر عندما تتعامل مع بيانات عمل أو بحث تتعلق بآخرين.
عند تطبيق أخلاقيات الذكاء الاصطناعي على فريق، اجعل مسار الموافقة واضحًا: من يجيز رفع البيانات، وأين تحفظ النسخ، ومتى تزال؟ ويمكن إعداد أمثلة تدريبية مصطنعة للمهمات التعليمية حتى يتعلم الأعضاء طريقة العمل دون تعريض ملفات حقيقية للتداول.
- استخدم أقل قدر من البيانات يحقق الغرض.
- اختر الحساب والأداة المعتمدين لطبيعة المهمة.
- حدد الأشخاص المخولين بالوصول إلى المدخلات والمخرجات.
الشفافية والتفسير: وضح دور الأداة وحدودها
تدعم أخلاقيات الذكاء الاصطناعي تقديم معلومات يفهمها الشخص المتأثر بالقرار. يحتاج القارئ إلى معرفة أن نصًا خضع للمساعدة الآلية حين يكون ذلك مهمًا لفهمه أو تقييمه، ويحتاج المسؤول إلى معرفة البيانات والغرض وحدود الاعتماد على النتيجة.
الشفافية والتفسير مفهومان متصلان لكنهما مختلفان: تتعلق الأولى بإتاحة المعلومات المناسبة عن النظام واستخدامه، ويتعلق الثاني بفهم آلية إنتاج النتيجة ودلالتها. عمليًا، اطلب شرحًا يناسب المهمة، ثم تحقق منه بأدلة مستقلة بدل اعتبار الشرح الذي يولده النظام إثباتًا لصحة نفسه.
في أخلاقيات الذكاء الاصطناعي، يجب أن يخدم الإفصاح قرار المستخدم. إذا استعنت بأداة لتلخيص محاضرة، يمكنك بيان دورها ومراجعتك للمحتوى عند مشاركته، مع إتاحة المادة الأصلية للزملاء وفق الصلاحيات المتاحة، بدل تقديم الملخص بوصفه نقلًا حرفيًا مضمونًا.
- وضح ما أنجزه النظام وما راجعه الإنسان.
- اذكر حدود الاستخدام المؤثرة في فهم النتيجة.
- استخدم لغة مفهومة للفئة التي تتلقى المعلومات.
السلامة والموثوقية: اختبر قبل التوسع
تربط أخلاقيات الذكاء الاصطناعي جودة الأداء بحجم الضرر المحتمل. ففشل أداة في اقتراح تنسيق عرض يختلف عن فشلها في مهمة تؤثر في سلامة شخص أو حقه، ولهذا ينبغي أن تتناسب طريقة التحقق مع السياق والعواقب.
يفصل منهج قياس مخاطر الأنظمة ومتابعتها بين تعريف السياق وقياس الأداء وإدارة المخاطر، ويؤكد الاختبار قبل التشغيل والمتابعة أثناءه. ويمكنك تحويل ذلك إلى تجربة محدودة تسجل فيها الحالات الناجحة والفاشلة قبل السماح باستخدام أوسع.
تحتاج أخلاقيات الذكاء الاصطناعي أيضًا إلى خطة للخطأ المتوقع: من يتلقى البلاغ، وما الاستخدام الذي يتوقف، وكيف يستعاد العمل؟ ضع نسخة مرجعية أو إجراءً بديلًا للمهمة المهمة، ثم جرب الانتقال إليه حتى يصبح التدخل قابلًا للتنفيذ.
- اختبر حالات عادية وحالات صعبة مرتبطة بالمهمة.
- حدد نتيجة غير مقبولة تستدعي المراجعة أو الإيقاف.
- أعد التقييم عند تغيير الأداة أو البيانات أو الغرض.
الإشراف البشري: امنح المراجع قدرة حقيقية
تتطلب أخلاقيات الذكاء الاصطناعي أن يملك الشخص المكلف بالمراجعة معرفة كافية ووقتًا وصلاحية للتدخل. وجود اسم بشري في نهاية العملية لا يكفي إذا كان لا يرى المدخلات أو لا يستطيع الاعتراض على توصية النظام.
لتنظيم المراجعة، افصل بين دور الأداة ودور صاحب القرار. يمكنك استخدامها لاقتراح أسئلة أو ترتيب مواد، بينما يتولى المختص تقييم الأدلة، ويفحص الحالات غير المعتادة، ويقرر متى يحتاج إلى معلومات إضافية قبل التصرف.
تجعل أخلاقيات الذكاء الاصطناعي الاعتراض جزءًا من تصميم الخدمة. وفر وسيلة واضحة لتصحيح معلومة أو طلب مراجعة بشرية عندما يكون ذلك مناسبًا لأثر الاستخدام، وسجل ما حدث حتى تعالج المشكلة المتكررة بدل حل كل حالة بمعزل عن الأخرى.
- عين مراجعًا يفهم موضوع القرار وحدود الأداة.
- أتِح له رؤية الأدلة وتعديل النتيجة أو رفضها.
- ضع مسارًا لتصعيد الحالات التي تتجاوز صلاحياته.
المساءلة: اربط المسؤولية بإجراء موثق
تنتقل أخلاقيات الذكاء الاصطناعي من النوايا إلى العمل عندما تعرف المؤسسة من يختار الأداة ومن يشغلها ومن يعالج الضرر. اكتب هذه الأدوار بلغة بسيطة، واربط كل دور بقرار أو سجل يستطيع الفريق الرجوع إليه.
في مشروع طلابي، يمكنك الاحتفاظ بسجل يضم الغرض من الاستخدام ونسخة الأداة ومصادر البيانات وطريقة التحقق. لا يحتاج كل مشروع إلى إجراءات معقدة؛ اختر مستوى توثيق يناسب أثر المهمة وحساسية المعلومات وعدد الأشخاص المتأثرين بها.
تساعد أخلاقيات الذكاء الاصطناعي على تقييم المورد كذلك. قبل اعتماد خدمة مهمة، اطلب معلومات عملية عن حدود الأداء وسياسة البيانات والدعم والاستجابة للحوادث، ثم قارن ما هو موثق بما يحتاجه مشروعك، وسجل الأسئلة التي يجب حسمها قبل التشغيل.
- حدد مالك الاستخدام والمسؤول عن المتابعة.
- احتفظ بأسباب القرارات المهمة ونتائج الاختبارات.
- سجل الحوادث والإجراءات التصحيحية بصورة قابلة للمراجعة.
المحتوى والمعرفة: راجع الادعاءات واحترم أصحاب الأعمال
تطبيق أخلاقيات الذكاء الاصطناعي في الدراسة والكتابة يبدأ بمسؤوليتك عن المادة التي تقدمها. راجع الأسماء والأرقام والاقتباسات في مصادرها، ولا تستخدم إحالة لمجرد أن الأداة صاغتها على هيئة مرجع، وافصل بين الفكرة المقترحة والحقيقة التي استطعت التحقق منها.
لتنظيم عملك، احتفظ بالمادة الأصلية وملاحظاتك وصياغتك النهائية في ملفات واضحة. وعندما تستخدم صورة أو نصًا أو مجموعة بيانات، راجع ترخيصها وشروط استخدامها وسياسة الجهة التي ستستقبل العمل، ثم وثق الإسناد المطلوب بالطريقة المناسبة.
في أخلاقيات الذكاء الاصطناعي، لا ينبغي أن تحل سرعة الإنتاج محل فهمك للمهمة. استخدم الأداة لتوليد بدائل أو كشف أسئلة ناقصة، ثم اشرح أنت سبب اختيارك، واختبر ما إذا كنت تستطيع الدفاع عن الاستنتاج دون الاعتماد على طلاقة الصياغة.
- افحص الادعاءات المهمة في مصادر أصلية مناسبة.
- راجع الأذونات والتراخيص قبل إعادة استخدام المواد.
- اتبع تعليمات الإفصاح الخاصة بالمؤسسة أو المهمة.
الاستدامة وإتاحة الاستخدام للجميع
للمقارنة بين خيارين، اكتب الوظيفة المطلوبة منهما بالطريقة نفسها، ثم اختبرهما على المواد نفسها. راقب الوقت الذي تحتاجه لتصحيح النتائج وإكمال الأجزاء الناقصة، لأن تقييم الفائدة العملية يجب أن يشمل جهد المراجعة الذي ستبذله أنت، لا زمن إنتاج الإجابة وحده.
تشمل الممارسة الأخلاقية أثر التقنية في البيئة وإمكان الوصول إلى فوائدها. لتقييم اختيارك، اسأل عن الموارد اللازمة للمهمة وعن البدائل الأبسط، ثم اختبر واجهة الاستخدام مع أشخاص تختلف لغاتهم واحتياجاتهم بدل افتراض أن تجربة واحدة تمثل الجميع.
يمكنك تقليل التجارب غير الهادفة بتحديد المطلوب قبل التشغيل وتجميع الأسئلة المرتبطة وفحص النتائج قبل إعادة توليدها. هذه توصيات لتنظيم الاستخدام، ولا تعطي رقمًا ثابتًا لوفر الطاقة؛ فالأثر الفعلي يتوقف على النموذج والبنية وطريقة التشغيل وحجم المهمة.
عند إعداد مادة عربية، جرب القراءة على الهاتف وتسلسل العناوين ووضوح المصطلحات، وأضف نصًا بديلًا للصور المفيدة. اطلب ملاحظات من المستخدمين المقصودين، ثم حول العوائق التي يذكرونها إلى تعديلات محددة في التصميم أو الشرح.
- اختر أداة تناسب الحاجة دون تعقيد زائد.
- اختبر وضوح اللغة وإمكان الوصول إلى المحتوى.
- قارن البدائل وفق الفائدة والمخاطر والموارد معًا.
كيف تطبق أخلاقيات الذكاء الاصطناعي في مشروعك؟
في مثال افتراضي لفريق يعد دليلًا للطلاب الجدد، قسم العمل إلى مسودة ومراجعة وتحقق نهائي. يمكن للأداة اقتراح ترتيب الأسئلة، ويتحقق عضو من القواعد المنشورة، ويختبر آخر وضوح الشرح مع قارئ جديد، ثم يعتمد المسؤول النسخة التي استوفت هذه الأدوار.
بعد انتهاء التجربة، احتفظ بقرار موجز يشرح ما تعلمته وما تغير في طريقة العمل. إذا تكررت مشكلة محددة، مثل إغفال الاستثناءات، فعدل طريقة الإدخال ومعيار المراجعة معًا، واختبر التعديل على حالات سابقة وأخرى جديدة قبل اعتماده.
ابدأ بتجربة واحدة محددة تستطيع مراجعة نتائجها، مثل مساعدة فريق في تلخيص مستندات عامة. حدد من سيقرأ الملخص، وما الخطأ الذي يؤثر في عمله، ومن يراجع المخرجات، ثم قرر بعد التجربة ما إذا كان الاستخدام يستحق التوسع أو التعديل.
تقدم إرشادات إدارة المخاطر العملية لدى المعهد الوطني الأمريكي للمعايير اقتراحات طوعية بحسب السياق. يمكنك الاستفادة منها لاختيار إجراءات ملائمة، دون التعامل معها بوصفها خطوات إلزامية متطابقة لكل مشروع أو بديلًا للمتطلبات القانونية المعمول بها.
| المبدأ | سؤال تطبيقي | إجراء مقترح |
|---|---|---|
| العدالة | هل تختلف الأخطاء بين المستخدمين؟ | اختبار حالات متنوعة ومراجعة الفروق |
| الخصوصية | هل كل البيانات المدخلة ضرورية؟ | تقليل البيانات وضبط الوصول |
| الشفافية | هل يفهم المتلقي دور الأداة؟ | إفصاح مناسب وشرح الحدود |
| السلامة | ما أثر الخطأ وكيف نتدخل؟ | تجربة محدودة وخطة استجابة |
| المساءلة | من يراجع القرار ويعالجه؟ | تحديد المسؤول وتوثيق المتابعة |
قبل التوسع، اجمع ملاحظات الأشخاص الذين استخدموا النتائج واسألهم عن الأخطاء التي عطلت عملهم. حول الملاحظة العامة، مثل «الملخص غير مفيد»، إلى وصف قابل للفحص: هل حذف شرطًا، أم خلط رأيًا بحقيقة، أم أغفل اختلافًا بين المستندات؟
- اكتب الغرض والحدود والأشخاص المتأثرين.
- نفذ تجربة ببيانات مناسبة وأمثلة متنوعة.
- راجع النتائج مع شخص يفهم المهمة.
- قرر التوسع أو التعديل أو إيقاف الاستخدام بناء على الأدلة.
الخلاصة
تتحول أخلاقيات الذكاء الاصطناعي إلى ممارسة عندما تربط كل مبدأ بسؤال وإجراء ومسؤول. ابدأ بحماية البيانات واختبار النتائج، واجعل المراجعة والتصحيح متاحين، ثم طور الضوابط مع تغير الاستخدام وأثره في الناس.
الأسئلة الشائعة
ما أول خطوة قبل استخدام أداة ذكية في العمل؟
حدد المهمة والبيانات المسموح بمعالجتها والأشخاص الذين سيتأثرون بالنتيجة. بعد ذلك اختر أداة معتمدة للمهمة، وقرر من يراجع المخرجات وما الحالات التي تستدعي تدخلًا إضافيًا قبل مشاركتها أو تطبيقها.
هل أخلاقيات الذكاء الاصطناعي تخص المطورين فقط؟
تشمل أخلاقيات الذكاء الاصطناعي من يصمم النظام ومن يختاره ويشغله ويستخدم نتائجه. يستطيع المستخدم تقليل المخاطر باختيار البيانات المناسبة، والتحقق من المخرجات، والإبلاغ عن الأخطاء، والالتزام بقواعد الجهة التي يعمل أو يدرس لديها.
كيف أختبر التحيز في مشروع صغير؟
جهز حالات اختبار متقاربة في العناصر المهمة للمهمة ومختلفة في خصائص الاستخدام ذات الصلة. قارن النتائج وأسباب الأخطاء، ثم اطلب مراجعة من شخص يفهم السياق قبل الاستنتاج أن فرقًا معينًا يعكس تمييزًا أو جودة أعلى.
هل حذف الاسم يكفي لحماية الخصوصية؟
راجع بقية المعلومات كذلك، مثل تفاصيل الحالة أو الموقع أو الوقائع التي تشير إلى شخص بعينه. استخدم فقط ما تحتاجه المهمة، واتبع سياسة البيانات المعتمدة، واختر أمثلة مصطنعة عندما تستطيع إنجاز الغرض التعليمي بها.
ما الفرق بين الشفافية وتفسير القرار؟
توضح الشفافية المعلومات المناسبة عن استخدام النظام ودوره وحدوده، بينما يساعد التفسير على فهم آلية النتيجة ودلالتها. اختر شرحًا مناسبًا للقارئ، مع أدلة قابلة للمراجعة، ولا تعتمد على وصف الأداة لنفسها وحده.
متى أحتاج إلى مراجعة بشرية أوسع؟
وسع المراجعة عندما تمس النتيجة سلامة الأشخاص أو حقوقهم أو فرصهم، أو عندما تختلف الحالة عن ظروف الاختبار. حدد مسبقًا المختص المناسب وصلاحياته وما يحتاج إليه من معلومات حتى تكون المراجعة فعالة.
كيف أتعامل مع مرجع تقترحه أداة توليد النص؟
افتح المصدر الأصلي وتحقق من وجوده ومن دعمه للادعاء الذي تريد كتابته. إذا لم تستطع التحقق، احذف الاستشهاد والادعاء غير المدعوم أو ابحث عن دليل أصلي مناسب قبل استخدامه.
هل يمكن اعتماد مؤشر واحد للحكم على الأداة؟
قارن الدقة والخصوصية والسلامة والعدالة بحسب سياق الاستخدام. يوضح إطار الثقة أن هذه العناصر تتفاعل، ولذلك سجل المقايضات المهمة وأثرها بدل تحويل درجة أداء واحدة إلى حكم شامل على ملاءمة النظام.
كيف أوثق استخدام الأداة في مشروع دراسي؟
اتبع تعليمات المقرر، وسجل دور الأداة والمهام التي ساعدتك فيها وما راجعته بنفسك. احتفظ بالمصادر الأصلية وملاحظات التحقق، واجعل استنتاجات العمل وصياغته النهائية قابلة للشرح والمناقشة.
متى أعيد تقييم الاستخدام بعد اعتماده؟
أعد التقييم عند تغيير النموذج أو البيانات أو الغرض أو فئة المستخدمين، وعندما تكشف المتابعة أخطاء جديدة. اربط المراجعة بسجل الحوادث والنتائج، ثم عدل الضوابط أو حدود التشغيل بحسب ما تثبته الأدلة.
10 تعليقات
والله يا جماعة، قرأت تعليقاتكم وحسيت إن الموضوع أعمق مما نتخيل. أنا صار معي موقف مع نظام ذكي لتوصيات الأدوية في صيدلية إلكترونية، واكتشفت إنه يوصي بدواء معين لأنه أغلى سعراً مو لأنه الأنسب لحالتي. سؤالي لكم: هل تعتقدوا إن إضافة “زر اعتراض” سهل لكل مستخدم، بحيث يقدر يطلب مراجعة بشرية لأي قرار آلي، ممكن يكون حل عملي أكثر من بطاقات التغذية الراجعة؟ لأن أحياناً حتى لو عرفت سبب الرفض، ما عندي وسيلة فعالة لأعترض عليه.
والله يا ميسون، كلامك عن “زر الاعتراض” هذا هو الحل العملي الوحيد اللي يوقف الهبل اللي تسويه بعض الأنظمة. لأن حتى لو عطوك بطاقة تغذية راجعة وشرحوا لك سبب التوصية، بدون وسيلة فعالة للاعتراض تظل حبر على ورق. أتذكر موقع أمازون لما ظل يوصيلي بمنتجات غالية وطلبت مراجعة بشرية، غيروا توصيتهم فوراً. المشكلة إن الشركات بتتلكك وتقول “المراجعة البشرية تكلفة إضافية”، لكنها تضحية ضرورية عشان نوقف التلاعب بجيوب الناس على حساب صحتهم.
والله يا جماعة، كلامكم خلاني أتذكر لما كنت أحاول أشتري تأمين صحي عبر تطبيق، واكتشفت إن النظام رفع علي السعر لأن عمري فوق الأربعين مع أني ما عندي أي أمراض مزمنة، ومدري ليه صار عمري عامل حاسم كذا! أعتقد إن بطاقة التغذية الراجعة فكرة ممتازة لكن لازم تكون بلغة بسيطة يفهمها المستخدم العادي مو بس المبرمجين، وإلا حتكون حبر على ورق مثل ما قال عبدالسلام. سؤالي لكم: هل تعتقدوا إن إلزام الشركات بإجراء “اختبار أخلاقي” قبل إطلاق أي نظام ذكاء اصطناعي ممكن يخلي أسعار المنتجات ترتفع على المستهلك ولا هذه تضحية ضرورية؟
والله يا مريم، قصتك مع التأمين الصحي عجيبة والله، تخيل إن النظام يرفع السعر لمجرد العمر مع إن صحتك تمام! بالنسبة لسؤالك، أنا أعتقد إن اختبار أخلاقي قبل الإطلاق مثل فحص الجودة لأي منتج جديد، ولو زادت التكاليف شوي فهي تضحية ضرورية عشان نضمن إننا ما ننغش ولا نتحكم فينا آلات بدون رقابة. أنا شخصياً أفضل أدفع زيادة بسيطة بدال ما أكون ضحية خوارزمية جائرة ترفع أسعار التأمين على حساب صحتي.
والله كلامك صحيح، خصوصاً نقطة إن بعض الأنظمة ترفض طلبات بناءً على السكن أو الجامعة، وصعب تعرف ليه. أنا صار معي موقف مشابه لما نظام توصية لفيلم معين ظل يرشحلي نفس النوع من الأفلام، واكتشفت إنه يحصرني في قالب معين. سؤالي لكم: هل تعتقدوا إن وجود “جهة رقابية مستقلة” تختبر عدالة الخوارزميات قبل إطلاقها ممكن يقلل من هالمشاكل، ولا حتكون عائق قدام التطور التكنولوجي؟
والله يا جماعة، كلامكم ذكرني بتجربة مريرة مع نظام ذكي يستخدم في توظيف العمالة المنزلية. قدمت على عاملة منزلية وبعد أسبوعين جاني رفض بدون أي سبب واضح، بس لما تواصلت مع الشركة عرفت إن النظام صنف ملفي على أنه “منخفض الموثوقية” لأني ساكن في حي معين! الشفافية مو بس مطلب أخلاقي، هي حق أساسي للمستخدم، وبدونها نبقى ضحية قرارات عمياء. سؤالي لكم: هل برأيكم تقديم “بطاقة التغذية الراجعة” لازم يكون إلزامي ولا ممكن يتحول لمجرد حبر على ورق زي ما صار مع بعض سياسات الخصوصية؟
والله يا مريم، تجربتك مع تصنيف السير الذاتية خلتني أتذكر لما تقدمت لوظيفة وتفاجأت إن النظام رفضني لأني ما درست في جامعة “مصنفة عالمياً” مع أن خبرتي أقوى من كثير من المقبولين. فكرة بطاقة التغذية الراجعة هذي ممتازة، لكني أخاف إن الشركات الكبيرة بتلف وتدور بتقول إنها “أسرار تجارية” عشان تحمي خوارزمياتها، مثل ما صار مع بعض منصات التواصل لما طلبنا شفافية في الإعلانات. الحل برأيي يكون بقوانين تلزمهم بإظهار المعايير الأساسية دون كشف الكود كامل، زي ما بنوكنا تشرح أسباب رفض القرض دون فضح كل خوارزمياتها.
والله يا مروان، كلامك عن رفض الوظيفة بسبب الجامعة خلاني أتساءل: إذا الشركات بتقول هالمعايير “أسرار تجارية”، كيف نضمن إنها ما تخبي تحيزاتها ورا هالحجّة؟ أنا مثلاً شفت نظام توصية وظايف يفضل خريجي سنة معينة، وعرفنا السبب بس بعد جدال طويل، فهل الحل يكون بقانون يلزمهم بالإفصاح عن المعايير الأساسية قبل التشغيل ولا حنضل كل مرة نكتشف الظلم بالصدفة؟
مقال رائع ومهم جداً، خصوصاً نقطة الشفافية اللي ذكرتها. عندي تجربة شخصية مع تطبيق يستخدم الذكاء الاصطناعي لتصنيف السير الذاتية، واكتشفت بالصدفة إنه يفضل خريجي جامعات معينة بشكل غير عادل. سؤالي لك: هل تعتقد أن إجبار الشركات على نشر “بطاقة تغذية راجعة” توضح معايير القرار لكل مستخدم ممكن يطبق عملياً ولا حتعترض على خصوصية الخوارزميات؟
والله يا مريم، تجربتك مع تصنيف السير الذاتية ذكرتني بشيء صار معي شخصياً، لما نظام ذكي رفض طلب توظيف لأحد أقاربي وما عطاني سبب واضح، بس طلعت القصة إنه يعطي أولوية لخريجي سنة التخرج الأخيرة. بالنسبة لبطاقة التغذية الراجعة، أعتقد إنها فكرة عملية إذا كانت مختصرة وواضحة، مثل فاتورة المشتريات، مو لازم تكشف الخوارزمية كلها، بس تكفي إن المستخدم يفهم لماذا انرفض أو قبل، وهذا يحمي حقوقنا بدون ما يهدد أسرار الشركات.