بسبب "حماسه المفرط"!.. تحديث لـChatGPT يحذف ملفات المستخدمين دون إذن
زعم عدد من المستخدمين أن تحديثا جديدا لنظام تشغيل ChatGPT يقوم بحذف ملفاتهم من أجهزة الكمبيوتر دون إذن منهم.
وقد أعلنت شركة OpenAI، المطورة لـChatGPT، الأسبوع الماضي عن نموذج ذكاء اصطناعي جديد يحمل اسم GPT-5.6 Sol، صمم خصيصا للقيام بمهام معقدة مثل كتابة الأكواد البرمجية وأمن المعلومات.

OpenAI تطرح نماذجها الجديدة للذكاء الاصطناعي وتغلق متصفح Atlas
وقالت الشركة إن النموذج يحقق مستويات متقدمة من الذكاء والكفاءة، وذلك في إطار منافستها مع شركة Anthropic للسيطرة على سوق النماذج الأكثر تطورا.
لكن سرعان ما ظهرت شكاوى من مستخدمين أفادوا بأن النظام بدأ يتصرف بشكل غير طبيعي، حيث قام بحذف ملفات من حواسيبهم دون سابق إنذار أو موافقة.
وكتب المستثمر في مجال الذكاء الاصطناعي، مات شومر، على منصات التواصل الاجتماعي: "GPT-5.6-Sol حذف بطريق الخطأ جميع ملفات جهاز Mac الخاص بي تقريبا". ونشر محادثة مع النظام اعترف فيها بارتكاب "حادثة فقدان بيانات خطيرة".
من جهته، قال المطور برونو ليموس: "قام النموذج بحذف قاعدة بيانات الإنتاج بأكملها الخاصة بي. هذا ليس مزحة". وانضم إليه آخرون بشكاوى مماثلة، وما يزال حجم المشكلة وعدد المتضررين غير واضح.

دعوى قضائية تهز "ميتا".. اتهامات باستخدام الذكاء الاصطناعي لتقييم وتسريح الموظفين
ويبدو أن المستخدمين الذين تأثروا بهذه المشكلة كانوا يستخدمون أداة تابعة لـOpenAI تسمى Codex، والتي تسمح للمبرمجين بالعمل مع النظام ولكنها تمنحه صلاحية الوصول إلى ملفات المستخدم وما يعمل عليه.
ولم ترد OpenAI فورا على استفسارات حول هذه الشكاوى. لكن اللافت أن الشركة كانت قد حذرت مسبقا، حتى قبل إطلاق النموذج الجديد، من أنه قد يتصرف بتهور ويتخذ إجراءات قد تكون مزعجة أو مدمرة.
وفي وثيقة رسمية أصدرتها الشركة مع النموذج، استعرضت فيها مزاياه ومخاطره، أوضحت أن النظام قد يظهر "حماسا مفرطا" لتنفيذ المهام، ما يدفعه إلى افتراض أنه يمكنه فعل أي شيء ما لم يمنع منه بشكل واضح وحازم. وهذا يعني أنه قد يتجاوز التعليمات، أو يقوم بحذف أشياء لم يطلب منه حذفها، أو حتى يخفي حقيقة ما فعله عند الإبلاغ عن النتائج.

فستان جينيفر لوبيز كان سبب إطلاقها!.. "غوغل" تعلن عن تغييرات في خدمة شهيرة عمرها ربع قرن
وضربت الشركة مثالا على ذلك: في إحدى التجارب، طلب مستخدم من النظام حذف أجهزة كمبيوتر افتراضية معينة، لكنه لم يتمكن من العثور عليها، فقام بحذف أجهزة أخرى بدلا منها.
كما حذرت OpenAI من أن النموذج قد يظهر سلوكيات غير متوقعة أخرى، مثل البحث في جهاز المستخدم عن بيانات ثم استخدامها لتسجيل الدخول إلى أنظمة لم يصرح له بالوصول إليها.
المصدر: إندبندنت
إقرأ المزيد
أول جهاز ذكي لشركة OpenAI
كشفت شركة OpenAI عن لوحة مفاتيح ذكية، صممتها لتعمل مع مستخدمي منصة Codex المدعومة بالذكاء الاصطناعي.
"لا نمتلك رفاهية الانتظار".. رئيس "غوغل ديب مايند" يقترح إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي
حذر ديميس هاسابيس الرئيس التنفيذي لشركة "غوغل ديب مايند" والحائز جائزة نوبل، من أن العالم قد يكون على بعد سنوات قليلة فقط من الوصول إلى مرحلة الذكاء الاصطناعي العام (AGI).
حائزو جائزة نوبل يحذرون من أن الذكاء الاصطناعي سيهدد لاحقا فرص العمل للبشر
جاء في رسالة مفتوحة وقعها نحو 200 باحث علمي وأكثر من عشرة علماء من حملة جائزة نوبل أن الذكاء الاصطناعي يمكن أن يشكل تهديدا للوظائف وفرص العمل.
إشارة "النصر" في السيلفي قد تمنح المخترقين السيطرة الكاملة على حساباتك!
حذر خبراء الأمن السيبراني من أن صورة "السيلفي" العادية، وتلك التي نشير فيها بعلامة النصر (V) بشكل خاص، قد تمنح المخترقين كل ما يحتاجونه لاختراق حساباتنا الرقمية.
التعليقات