لسنوات طويلة، كنا نقيس تطور وكلاء الذكاء الاصطناعي بقدرتهم على تنفيذ المهام. كلما أصبح الوكيل أسرع في كتابة كود، وتحليل بيانات، وتنفيذ خوارزمية معينة، واستخدام الأدوات، اعتبرناه أكثر تطورًا.
لكن مع توسع استخدام هذه الأنظمة، ودخولها في مجالات حساسة ومتقدمة تتعلق تؤدي إلى قرارات استراتيجية بدأت تظهر مشكلة مختلفة: الوصول إلى نتيجة لا يعني بالضرورة الوصول إلى نتيجة جيدة.
قد يكتب الوكيل كودًا صحيحًا، ويشغّل نموذجًا إحصائيًا بشكل سليم، ويعرض نتائج تبدو مقنعة. ومع ذلك، قد تكون المشكلة في السؤال الذي بدأ منه التحليل، أو في الافتراضات، أو في البيانات المستخدمة.
في الإحصاء و علم البيانات، يمكن أن يظهر ذلك بأشكال كثيرة. قد يختار الوكيل نموذجًا يحقق أداءً مرتفعًا، لكن هل مقياس الأداء مناسب للمشكلة؟ قد يجد علاقة قوية بين متغيرين، لكن هل هذه العلاقة قابلة للتفسير؟ وقد ينتج نموذجًا تنبؤيًا جيدًا، لكن هل البيانات التي دُرّب عليها تمثل الحالة التي سيُستخدم فيها فعلًا؟
هنا يظهر الفرق بين تنفيذ التحليل والحكم على نتائجه.
الخبير البشري لا يتوقف عادةً عند ظهور النتيجة. يراجع الافتراضات، يقارن بين تحليلات مختلفة، يبحث عن مصادر الخطأ، ويسأل كيف يمكن أن تتغير النتيجة إذا تغيرت البيانات أو طريقة التحليل أو يطور طرق تحليل مبتكرة.
أما كثير من تطبيقات الذكاء الاصطناعي الحالية، فهدفها الأساسي هو الوصول إلى إجابة. ومع تطور الوكلاء وقدرتهم على تنفيذ سلسلة كاملة من المهام، من البحث وكتابة الكود إلى تحليل البيانات واتخاذ الإجراءات، يصبح السؤال الأهم: هل يستطيع الوكيل أن يراجع عمله بنفس الصرامة التي نفّذه بها؟
الوكيل الأكثر فائدة في علم البيانات ليس بالضرورة الذي يستطيع كتابة أكبر قدر من الكود، بل الذي يعرف متى يتوقف ليسأل: هل هذه هي الطريقة الصحيحة لتحليل المشكلة؟ هل هناك تفسير آخر للنتيجة؟ وهل البيانات كافية أصلًا لاتخاذ هذا القرار؟ هل الإفتراضات منطقية و واقعية؟
وهذا يقودنا إلى جانب مهم من الجيل القادم من وكلاء الذكاء الاصطناعي في هذا المجال: القدرة على التعامل مع عدم اليقين وحدود المعرفة، وليس مجرد إنتاج إجابة بثقة.
فالذكاء الاصطناعي الفعّال ليس الذي يملك إجابة لكل سؤال، بل الذي يستطيع التمييز بين نتيجة يمكن الاعتماد عليها، ونتيجة تبدو جيدة على السطح فقط.
ربما كان السؤال خلال السنوات الماضية:
ماذا يستطيع الذكاء الاصطناعي أن يفعل؟
أما السؤال الذي سيصبح أكثر أهمية فهو:
كيف يتأكد الذكاء الاصطناعي من صحة ما فعله؟
فبناء نظام يستطيع الوصول إلى إجابة أصبح ممكنًا أكثر من أي وقت مضى. أما بناء نظام يستطيع اختبار تلك الإجابة، ومراجعة افتراضاته، وتحديد حدود الثقة فيها، فهذه هي المشكلة الأصعب.
د. عبدالمجيد الحربي
مقالات ذات صلة
