قال Openai يوم الجمعة إنها كشفت عن أدلة على أن عملية أمنية صينية قد بنت أداة مراقبة مصطنعة تعمل بالذكاء لجمع تقارير في الوقت الفعلي عن الوظائف المعادية للفيلم على خدمات وسائل التواصل الاجتماعي في الدول الغربية.
قال باحثو الشركة إنهم حددوا هذه الحملة الجديدة ، التي أطلقوا عليها اسم Peer Review ، لأن شخصًا يعمل على الأداة استخدم تقنيات Openai لتصحيح بعض رمز الكمبيوتر الذي يدعمها.
وقال بن نمو ، المحقق الرئيسي لشركة Openai ، إن هذه هي المرة الأولى التي تكشف فيها الشركة عن أداة مراقبة تعمل من الذكاء الاصطناعى من هذا النوع.
وقال السيد نيمو: “يعطينا ممثلو التهديد في بعض الأحيان لمحة عما يفعلونه في أجزاء أخرى من الإنترنت بسبب الطريقة التي يستخدمون بها نماذج الذكاء الاصطناعى لدينا”.
كانت هناك مخاوف متزايدة من أنه يمكن استخدام الذكاء الاصطناعى للمراقبة ، وقرصنة الكمبيوتر ، وحملات التخلص من المعلومات وغيرها من الأغراض الخبيثة. على الرغم من أن الباحثين مثل السيد Nimmo يقولون إن التكنولوجيا يمكن أن تمكن بالتأكيد هذه الأنواع من الأنشطة ، إلا أنهم يضيفون أن الذكاء الاصطناعى يمكن أن يساعد أيضًا في تحديد هذا السلوك ووقفه.
يعتقد السيد Nimmo وفريقه أن أداة المراقبة الصينية تستند إلى Llama ، وهي تقنية منظمة العفو الدولية التي صممها Meta ، والتي تفتح مصدر تقنيتها ، مما يعني أنها شاركت عملها مع مطوري البرامج في جميع أنحاء العالم.
في تقرير مفصل حول استخدام الذكاء الاصطناعى لأغراض ضارة ومضللة ، قال Openai أيضًا إنها كشفت عن حملة صينية منفصلة ، تسمى السخط برعاية ، والتي استخدمت تقنيات Openai لتوليد وظائف باللغة الإنجليزية التي انتقدت المنشقين الصينيين.
وقال Openai إن نفس المجموعة استخدمت تقنيات الشركة لترجمة المقالات إلى الإسبانية قبل توزيعها في أمريكا اللاتينية. انتقدت المقالات المجتمع الأمريكي والسياسة.
وقال التقرير إن باحثو Openai حدد حملة ، ويعتقد أنها مقرها في كمبوديا ، والتي استخدمت تقنيات الشركة لتوليد وترجمة تعليقات وسائل التواصل الاجتماعي التي ساعدت في دفع عملية احتيال تعرف باسم “ذبح الخنازير”. تم استخدام التعليقات التي تم إنشاؤها من الذكاء الاصطناعى لجذب الرجال على الإنترنت وتشكيلهم في مخطط استثمار.
(رفعت صحيفة نيويورك تايمز دعوى قضائية ضد Openai و Microsoft بسبب انتهاك حقوق الطبع والنشر لمحتوى الأخبار المتعلقة بأنظمة الذكاء الاصطناعي. نفى Openai و Microsoft هذه المطالبات.)
