التقدم في الذكاء الاصطناعي مذهل. ما زلنا لا نعرف أين قد تكون الحدود وما إذا كان يومًا ما سيكون من المستحيل تمامًا التمييز بين إبداع تم إنشاؤه بواسطة الذكاء الاصطناعي عن الإنسان في مواضيع مثل النصوص أو الفن.
إلى أن تصل هذه الفرضية حيث ستُطمس الحدود بين إبداعات أحدهما والآخر ، ما يمكننا فعله الآن هو محاولة معرفة ما إذا كان النص قد كتبه إنسان أم بواسطة ذكاء اصطناعي.
كشف النص الذي كتبته منظمة العفو الدولية
أصدر OpenAI مُصنِّف نصوص AI يحاول اكتشاف ما إذا كان محتوى الإدخال قد تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي مثل ChatGPT. "مُصنف النص AI هو نموذج GPT مناسب يتنبأ باحتمالية أن يكون الذكاء الاصطناعي قد أنشأ نصًا من مجموعة متنوعة من المصادر ، مثل ChatGPT ، " يشرح منشور مدونة OpenAI جديد.
أطلقت OpenAI الأداة بعد أن حظرت العديد من الجامعات والمناطق التعليمية برنامج الدردشة ChatGPT الشهير الذي تدعمه الشركة والذي يعمل بالذكاء الاصطناعي ، نظرًا لقدرته على طالب كامل الواجبات ، مثل كتابة مراجعات الكتب والمقالات وحتى إكمال المهام. برمجة.
العملية بسيطة للغاية. عليك ببساطة أن تذهب إلى موقع الويب الخاص بأداة التحقق هذه وقم بتسجيل الدخول أو التسجيل (سيفعل حسابك إذا كنت تستخدم ChatGPT). بعد ذلك ، سيتعين عليك لصق النص الذي تريد التحقق منه وستقوم الأداة بإرجاع نتيجة توضح ما إذا كان من المحتمل أن يكون قد كتب بواسطة AI أو إنسان.
تحذر شركة OpenAI من أن "غير موثوق به بنسبة 100٪"
نظرًا لأنه من المرجح أن يستخدم المعلمون أداة التحقق من نص AI الجديدة هذه للتحقق مما إذا كان الطلاب قد تعرضوا للغش في مهامهم المعينة ، تحذر OpenAI من عدم استخدامها كـ "الاختبار الوحيد" لتحديد عدم الأمانة الأكاديمية.
"المصنف الخاص بنا ليس موثوقًا به تمامًا. في تقييماتنا لـ "مجموعة التحدي" للنصوص الإنجليزية ، المصنف الخاص بنا يحدد بشكل صحيح 26٪ من النصوص المكتوبة بالذكاء الاصطناعي (الإيجابيات الحقيقية) على الأرجح مكتوبًا بالذكاء الاصطناعي ، بينما يُصنف بشكل غير صحيح النص المكتوب من قبل الإنسان على أنه 9٪ مكتوب بواسطة منظمة العفو الدولية (إيجابيات خاطئة). تتحسن موثوقية المصنف بشكل عام مع زيادة طول نص الإدخال. بالمقارنة مع المصنف الذي تم إصداره سابقًا ، فإن هذا المصنف الجديد أكثر موثوقية بشكل ملحوظ في نصوص أحدث أنظمة الذكاء الاصطناعي. "
بالإضافة إلى ذلك ، قاموا بالمشاركة سلسلة من القيود بحيث يمكن استخدام مصنف النص بأكثر الطرق فعالية.
- المصنف غير موثوق به للغاية في النصوص القصيرة (أقل من 1,000 حرف). حتى النصوص الأطول أحيانًا يخطئ المصنف في تسميتها.
- أحيانًا يقوم المصنف بتسمية النص المكتوب بشكل غير صحيح على أنه مكتوب بالذكاء الاصطناعي.
- يوصى باستخدام المصنف للنص الإنجليزي فقط. إنه يعمل بشكل أسوأ في اللغات الأخرى ولا يمكن الاعتماد عليه في الكود.
- النص الذي يمكن التنبؤ به بشكل كبير لا يمكن تحديده بشكل موثوق. على سبيل المثال ، من المستحيل التنبؤ بما إذا كانت قائمة أول 1,000 رقم أولي كتبها الذكاء الاصطناعي أو البشر ، لأن الإجابة الصحيحة هي نفسها دائمًا.
- يمكن تحرير النص المكتوب بالذكاء الاصطناعي لتجاوز المصنف. يمكن تحديث المصنفات وإعادة تدريبها بناءً على الهجمات الناجحة ، ولكن من غير الواضح ما إذا كان الاكتشاف يتمتع بميزة طويلة المدى.
- من المعروف أن المصنفات القائمة على الشبكة العصبية يتم معايرتها بشكل سيئ خارج بيانات التدريب الخاصة بها. بالنسبة للمدخلات التي تختلف تمامًا عن النص الموجود في مجموعة التدريب ، يكون المصنف في بعض الأحيان واثقًا جدًا من التنبؤ غير الصحيح.
