الوجبات الرئيسية:
- أدرك المشرعون الصينيون الدور المركزي للخوارزميات في تشغيل منصات الإنترنت ، وعرّفوها على أنها "صنع القرار الآلي" في قانون حماية المعلومات الشخصية (PIPL) الصادر في 20 أغسطس 2021 ، والذي ينظم هذه التكنولوجيا لأول مرة.
- بموجب PIPL ، يجب على المنصات تقييم تأثير الخوارزميات مسبقًا ، وتكون مسؤولة عن نتائج اتخاذ القرار بعد ذلك.
- توسع PIPL الحق في معرفة مستخدمي النظام الأساسي ، وتتطلب من المنصات كسر "شرانق المعلومات" التي تم إنشاؤها بواسطة توصيات خوارزمية مخصصة للمستخدمين.
قانون حماية المعلومات الشخصية الصيني (个人 信息 保护 法)، الذي سُن في أغسطس 2021 ، يرسم الحدود لمنصات الإنترنت التي تقوم باتخاذ القرار الآلي من خلال الخوارزميات.
Ⅰ. خلفية
تستخدم منصات الإنترنت الصينية ، عادةً TopBuzz و TikTok من ByteDance ، على نطاق واسع خوارزميات التوصية لدفع المحتوى والمنتجات إلى مستخدميها.
ومع ذلك ، فإن مثل هذه الخوارزميات ، التي يُزعم أنها تدخلت في حقوق المستخدمين في اتخاذ القرارات الحرة وبالتالي خلقت خطرًا أخلاقيًا ، يتم استجوابها من قبل الجمهور والمنظمين.
أدرك المشرعون الصينيون الدور المركزي للخوارزميات في تشغيل مثل هذه المنصات ، وعرّفوها على أنها "صنع القرار الآلي" في قانون حماية المعلومات الشخصية (المشار إليه فيما يلي بـ "PIPL") الصادر في 20 أغسطس 2021 ، والذي ينظم هذه التكنولوجيا لـ اول مرة.
وفقًا لـ PIPL ، يشير اتخاذ القرار الآلي إلى أنشطة التحليل والتقييم تلقائيًا للعادات السلوكية للأفراد أو الهوايات أو الحالة المالية والصحية والائتمانية من خلال برامج الكمبيوتر واتخاذ القرارات بشأنها. (المادة 73)
قبل ذلك ، كانت هناك آراء منقسمة حول مسؤولية المنصات عن اتخاذ القرار الآلي. على سبيل المثال ، اعتقد بعض الناس أن المنصات لا ينبغي أن تكون مسؤولة عن نتائج خوارزميات صنع القرار الآلي الخاصة بهم ، والتي كانت في الأساس نوعًا من التكنولوجيا المحايدة. ومع ذلك ، توضح PIPL العكس.
Ⅱ. القيود على المنصات
1. يقوم المنظمون بمراجعة الخوارزميات مباشرة
بصفتها معالجي المعلومات الشخصية ، يجب على المنصات مراجعة امتثال معالجتها للمعلومات الشخصية للقوانين واللوائح الإدارية على أساس منتظم. (المادة 54)
وهذا يتطلب من المنصات إجراء تدقيق دوري لعملية صنع القرار الآلي الخوارزمية وأنشطة معالجة المعلومات الأخرى.
وفقًا للقاعدة ، يمكن للجهات التنظيمية أيضًا إجراء عمليات تدقيق داخلية على تشغيل خوارزميات المنصات ، بدلاً من الإشراف الخارجي على أعمال المنصات والعواقب فقط.
وبناءً على ذلك ، فإن المنظمين يجعلون الخوارزميات ككائن تنظيم مباشر ، مما يمكّن المنظمين من التدخل في التكنولوجيا وتفاصيل صنع القرار الآلي.
2. منصات تقييم تأثير الخوارزميات مقدما
بصفتها معالجي المعلومات الشخصية ، يجب على المنصات إجراء تقييم مسبق لتأثير حماية المعلومات الشخصية وتسجيل معلومات المعالجة إذا كانوا يستخدمون المعلومات الشخصية لاتخاذ القرار الآلي. (المادة 55)
يجب أن يشمل التقييم بواسطة المنصات ما يلي:
أ. ما إذا كانت الأغراض أو الأساليب أو أي جانب آخر من جوانب معالجة المعلومات الشخصية قانونية ومشروعة وضرورية ؛
ب- التأثير على الحقوق والمصالح الشخصية ومستوى الخطر. و
ج. ما إذا كانت تدابير الحماية الأمنية المتخذة قانونية وفعالة ومتناسبة مع مستوى الخطر.
وفقًا لذلك ، يجب على المنصات إجراء تقييم مسبق قبل بدء تشغيل خوارزميات اتخاذ القرار الآلي. يشمل تقييم المخاطر شرعية وضرورة اتخاذ القرار الآلي الخوارزمي ، بالإضافة إلى تأثيره ومخاطره.
قد يؤدي اتخاذ القرار الآلي الخوارزمي المعيب من المنصات إلى إلحاق الضرر بممتلكات المواطنين وحقوقهم الشخصية ، حتى للمصالح العامة والأمن القومي.
لذلك ، قد تؤثر العواقب السلبية على آلاف المستخدمين. في هذه المرحلة ، على الرغم من محاسبة المنصات ، فقد يكون من الصعب استرداد الضرر الذي حدث بالفعل.
لمنع مثل هذا الموقف ، يحدد القانون نظام تقييم مسبق لخوارزميات المنصات في محاولة للتدخل في الخوارزميات مسبقًا.
3. المنصات مسؤولة عن نتائج اتخاذ القرار بعد ذلك
تتحمل المنصات الالتزامات التالية لنتائج اتخاذ القرار الآلي (المادة 24):
أ. يجب أن تضمن المنصات أن النتائج عادلة ونزيهة
عند إجراء معالجي المعلومات الشخصية عملية صنع القرار الآلي باستخدام المعلومات الشخصية ، يجب عليهم ضمان شفافية اتخاذ القرار ونزاهة النتائج وحيادها ، ويجب ألا يعطوا معاملة تفاضلية غير معقولة للأفراد من حيث أسعار المعاملات أو شروط المعاملات الأخرى.
ب. يجب أن توفر المنصات خيارات آلية لاتخاذ القرار لا تستهدف الخصائص الشخصية لمستخدميها.
عندما يتم تسليم المعلومات القائمة على الدفع أو التسويق التجاري للأفراد عن طريق اتخاذ القرار الآلي ، يجب توفير خيارات لا تستهدف الخصائص الشخصية للأفراد أو طرقًا سهلة لرفض الاستلام للأفراد في وقت واحد.
جيم - تقدم المنصات تفسيرات لنتائج صنع القرار.
عندما يتم اتخاذ قرار له تأثير مادي على حقوق ومصالح الفرد عن طريق اتخاذ القرار الآلي ، يكون للفرد الحق في طلب معالج المعلومات الشخصية لتقديم تفسيرات ، وكذلك الحق في رفض اتخاذ القرارات التي يتخذها معالج المعلومات الشخصية فقط عن طريق اتخاذ القرار الآلي.
تحمل اللائحة الأنظمة الأساسية مسؤولة عن نتائج اتخاذ القرار الآلي ، بما في ذلك:
ج: لا تعترف القاعدة بدفاع "الحياد التكنولوجي" الذي تستخدمه المنصات. يجب أن تكون المنصات مسؤولة عن نتائج اتخاذ القرار الآلي الخوارزمي ويجب أن تضمن أن النتائج عادلة ومعقولة.
ب- توسع القاعدة الحق في معرفة مستخدمي النظام الأساسي. يمكن للمستخدمين طلب شفافية نتائج صنع القرار الآلي بالإضافة إلى التفسيرات من المنصات في حالة "التأثير المادي".
ج- تتطلب القاعدة من المنصات كسر "شرانق المعلومات" التي تم إنشاؤها بواسطة توصيات خوارزمية مخصصة للمستخدمين ، وتتطلب منصات لحماية حق المستخدمين في المعرفة.
ثالثا. تعليقاتنا
حققت الصين اختراقة في PIPL من خلال إضافة قواعد قانونية لخوارزميات المنصات الخاصة باتخاذ القرار الآلي. ومع ذلك ، لا يزال بحاجة إلى مزيد من الصقل. على سبيل المثال ، لا يوضح القانون:
أ. شروط المنصات لبدء تقييم الخوارزمية.
ب. ما إذا كان سيتم نشر تقارير التقييم للجمهور وإلى أي مدى بعد أن تقوم المنصات بتقييم خوارزمياتها ، و
ج. كيف يجب أن تكون المنصات مسؤولة عن الضرر الناجم عن صنع القرار الآلي الخوارزمي.
أفترض أن المنظمين الصينيين ما زالوا يستكشفون إمكانية سن سلسلة من اللوائح المحددة لمواصلة تنفيذ PIPL.
تصوير رحلة على الطريق مع راج on Unsplash
المساهمين: جودونج دو 杜国栋
