الباحثون الطبيون قلقون: الذكاء الاصطناعي يختلق معلومات غير موجود في التسجيلات
- أفاد بعض الباحثين والمهندسين أن أداة Whisper لتحويل الصوت لنص من OpenAI تولد معلومات لا أساس لها
- المثير للقلق بشأن أداة Whisper أنها مُستخدمة بشكل كبير في المنشآت الطبية، مما قد يؤدي لعواقب وخيمة
- في سبتمبر 2022، قدمت شركة OpenAI أداة Whisper مفتوحة المصدر لتحويل الصوت لنص بلغات متعددة
أنا الجزائر: أفاد بعض الباحثين والمهندسين الذين يستخدمون أداة Whisper لتحويل الصوت لنص من OpenAI أنها تولد نصوصاً لا وجود لها بالتسجيلات الصوتية الأصلية، ومنهم أحد الباحثين بجامعة ميشيغان، والذي اكتشف نصوصاً غير موجودة في 80% من عمليات تحويل الصوت لنص، وفق صحيفة Assiociated Press.
لا تُعد هلوسة الذكاء الاصطناعي ظاهرةً جديدةً، حيث يحاول الباحثون إصلاحها بواسطة أدوات مختلفة، ولكن ما يثير مخاوف الباحثين بشأن أداة Whisper أنها مُستخدمة بشكل كبير في المنشآت الطبية، فقد تؤدي أبسط الأخطاء لعواقب وخيمة.
يعتمد مساعد الذكاء الاصطناعي Nabla على أداة Whisper، والذي يساعد الأطباء على تحويل التسجيلات الصوتية لشكاوى مرضاهم لنصوص، بهدف تدوين الملاحظات وإعداد التقارير الطبية. وفق شركة Nabla Technologies، يستخدم مساعد Nabla أكثر من 45 ألف طبيباً عبر 85 منظمةً صحيةً، بما يشمل مستشفى الأطفال بمدينة لوس أنجلوس وعيادة مانكاتو في ولاية مينيسوتا.
ومع ذلك، قال مارتن رايسون، الرئيس التقني بشركة Nabla Technologies، أن مساعد Nabla مُحسن للتوافق مع اللغة الطبية لتحويل التسجيلات الصوتية لنصوص وتلخيصها بدقة. على الجانب الآخر، توصي شركة OpenAI بعدم استخدام أداتها مع التسجيلات الضرورية، بل أنها تحذر من استخدامها في «سياقات اتخاذ القرار، حيث قد تؤدي عيوب الدقة لنتائج خاطئة».
قالت شركة Nabla Technologies أنها تدرك المشكلة وتعمل على حلها الفعل. بجانب ما سبق، قال رايسون أن مساعد Nabla لا يمكنه مقارنة النصوص المحولة بالتسجيلات الصوتية الأصلية، حيث تُحذف هذه التسجيلات لضمان خصوصية البيانات وسلامتها.
قال وليام سوندرز، المهندس السابق بشركة OpenAI، أن إزالة التسجيلات الصوتية الأصلية قد يمثل مشكلةً، نظراً لأن مزود الخدمة لن يتمكن من التحقق من صحة النص، وهو ما عبر عنه لصحيفة Assiociated Press بقوله: «لن تتمكن من رصد الأخطاء إذا حذفت التسجيلات الصوتية الأصلية.»
في سبتمبر 2022، قدمت شركة OpenAI أداة Whisper لتحويل الصوت لنص بلغات متعددة، بجانب ترجمة النص للغة الإنجليزية. تتميز الأداة بأنها مفتوحة المصدر، كما أنها مُدربة على 680 ألف ساعة من البيانات متعددة اللغات والمهام عبر الويب، والخاضعة لإشراف الشركة.
اقرأ تحقيق الشهر:
الرقمنة والذكاء الاصطناعي يغيران طرق عملنا… دقة واختصار للوقت، لكن!