لماذا يختلق الذكاء الاصطناعي الأشياء؟ فهم 'الهلوسة'

إذا سبق لك استخدام روبوت محادثة يعمل بالذكاء الاصطناعي، فربما تكون قد واجهت شيئًا غريبًا. تسأله سؤالاً، فيعطيك إجابة مكتوبة بشكل جميل وبصوت واثق تكون خاطئة تمامًا. قد يخترع حدثًا تاريخيًا، أو يستشهد بكتاب مزيف، أو يؤلف سيرة ذاتية لشخص حقيقي.

هذه الظاهرة شائعة جدًا لدرجة أن لها اسمًا خاصًا: هلوسة الذكاء الاصطناعي (AI Hallucination).

فكر في الذكاء الاصطناعي كمتدرب متحمس بشكل لا يصدق قرأ كل كتاب في المكتبة ولكنه لا يعرف في الواقع ما هو الصحيح. هدفه الرئيسي هو إعطاؤك إجابة مفيدة ومنظمة جيدًا، حتى لو اضطر إلى اختراع التفاصيل للقيام بذلك.

ما هي هلوسة الذكاء الاصطناعي؟

هلوسة الذكاء الاصطناعي هي عندما يقدم نموذج الذكاء الاصطناعي معلومات كاذبة أو غير منطقية أو مختلقة كما لو كانت حقيقة مثبتة.

من المهم أن تعرف أن الذكاء الاصطناعي لا "يكذب". الكذب يعني أنه يعرف الحقيقة ويحاول عمدًا خداعك. لا يعرف الذكاء الاصطناعي الفرق بين الحقيقة والخيال؛ إنه يعرف فقط كيفية ترتيب الكلمات بطريقة تبدو صحيحة بناءً على الأنماط التي تعلمها.

تشمل الأمثلة الشائعة ما يلي:

• اختلاق الحقائق: "أول فيل سار على سطح القمر كان اسمه بارثولوميو في عام 1978."
• الاستشهاد بمصادر مزيفة: تقديم رابط لمقال إخباري أو دراسة علمية غير موجودة.
• اختراع التفاصيل: وصف ميزات لمنتج لا يمتلكها في الواقع.

لماذا يحدث هذا؟

لفهم الهلوسة، تحتاج إلى معرفة هدف الذكاء الاصطناعي الوحيد: التنبؤ بالكلمة التالية الأكثر احتمالاً. إنه في الأساس إكمال تلقائي فائق القوة، مثل الذي تستخدمه على هاتفك، ولكنه أكثر تقدمًا بكثير.

فيما يلي الأسباب الرئيسية التي تجعله يخطئ:

1. إنه متعرف على الأنماط، وليس مدققًا للحقائق

تم تدريب الذكاء الاصطناعي من خلال قراءة تريليونات الكلمات من الإنترنت. لقد تعلم أنماط كيفية تناسب الكلمات معًا لتشكيل الجمل. عندما تطرح عليه سؤالاً، فإنه لا يبحث في قاعدة بيانات للحقائق. بدلاً من ذلك، يبدأ في إنشاء كلمات من المحتمل إحصائيًا أن تتبع سؤالك، مما يخلق إجابة تبدو معقولة. إذا كانت الإجابة المعقولة تتطلب حقيقة مختلقة، فسيقوم الذكاء الاصطناعي بإنشاء واحدة دون تردد.

2. فجوات في معرفته

تقتصر معرفة الذكاء الاصطناعي على البيانات التي تم تدريبه عليها. إنه لا يعرف عن الأحداث الأخيرة، وقد يكون لديه معلومات قليلة جدًا عن الموضوعات المتخصصة أو الغامضة. عندما تسأل عن شيء لا يعرفه، سيحاول قصارى جهده لملء الفراغات بدلاً من مجرد قول "لا أعرف".

3. أسئلة مربكة

في بعض الأحيان، يمكن لسؤال سيئ الصياغة أو خادع أن يقود الذكاء الاصطناعي إلى مسار خيالي. إذا كان سؤالك يحتوي على افتراض خاطئ، فقد يتماشى الذكاء الاصطناعي معه ويبني عالمًا خياليًا حول فرضيتك.

كيفية التعامل مع الهلوسة

الذكاء الاصطناعي أداة مذهلة، لكنه ليس عرافًا مثاليًا. إنه أشبه بشريك إبداعي منه بآلة حاسبة. إليك كيفية استخدامه بحكمة:

• تحقق دائمًا من المعلومات المهمة: إذا أعطاك الذكاء الاصطناعي حقيقة أو تاريخًا أو رأيًا قانونيًا أو إحصائية، فخذ بضع ثوانٍ للتحقق منها من خلال بحث سريع على موقع ويب موثوق.
• اطلب المصادر: من العادات الجيدة أن تسأل الذكاء الاصطناعي، "من أين حصلت على هذه المعلومات؟" كن على علم بأنه يمكن أن يهذي بالمصادر أحيانًا أيضًا!
• استخدمه للإبداع، وليس للحقائق: الذكاء الاصطناعي رائع لتبادل الأفكار وكتابة المسودات وتلخيص النصوص. إنه أقل موثوقية كمصدر للحقائق الثابتة.

الهلوسة هي خطأ معروف في تكنولوجيا الذكاء الاصطناعي اليوم. من خلال فهم سبب حدوثها، يمكنك استخدام هذه الأدوات القوية بفعالية مع تجنب مزالق أخطائها الواثقة.