يواجه معالجو الصحة العقلية الذين يستخدمون الذكاء الاصطناعي لتدوين الملاحظات أسئلة حول الثقة: NPR

لمدة عامين، وثقت مولي كوين في معالجها بأشياء لم تخبرها لأي شخص آخر.

لذلك عندما ذكر معالجها النفسي تجربة استخدام أداة الذكاء الاصطناعي لتدوين الملاحظات، لم ترفض كوين على الفور. طلبت أمينة المكتبة البالغة من العمر 31 عامًا من مدينة فايتفيل بولاية أركنساس إجراء بحث عنها أولاً.

لقد أرادت أن تفهم إلى أين ستذهب كلماتها، سواء كانت ستبقى محلية أم ستتم معالجتها في مكان ما في السحابة.

إعادة الجلسة في رأسها

انتقلت الجلسة في ذلك اليوم، ولكن في منتصف الجلسة، لاحظ كوين شيئًا مختلفًا.

يقول كوين: “لم تكن تدون ملاحظات كما كانت تفعل عادةً”. “لقد تم دعم جهاز iPad للتو.”

وذلك عندما أدرك كوين أنه تم تسجيل الجلسة.

تقول كوين إنها تجمدت قليلاً. ولكن بعد ذلك واصلت الحديث.

لم ينخفض ​​وزنها إلا بعد خروجها من مكتب معالجها النفسي.

وتقول: “كلما فكرت في الأمر أكثر، كلما بدأت أشعر بمرض معدتي أكثر فأكثر”. “هذا الشخص الذي من المفترض أن أكون قادرًا على الوثوق به مع بعض المشاعر الخاصة جدًا والمكثفة للغاية قد تجاهل تمامًا شيئًا قلت إنني لست مرتاحًا له. لقد شعرت بالانتهاك التام.”

قادت سيارتها إلى المنزل وهي تعيد تشغيل الجلسة في رأسها، غير متأكدة مما يجب فعله بعد ذلك.

شعرت مولي كوين بالانزعاج عندما أدركت أن أداة الذكاء الاصطناعي كانت تلتقط محتوى جلسة العلاج بالكلام الخاصة بها.

عائلة كوين

إخفاء التسمية التوضيحية

تبديل التسمية التوضيحية

عائلة كوين

أدوات جديدة من شركات جديدة

في جميع أنحاء الولايات المتحدة، يقوم عدد متزايد من المعالجين بتجربة أدوات الذكاء الاصطناعي التي تسجل الجلسات، وتولد النصوص، وتدوين الملاحظات السريرية تلقائيًا. تقول شركات البرمجيات أن هذه الأدوات يمكن أن توفر ساعات من العمل الإداري كل أسبوع.

تقوم إحدى الشركات، وهي Berries، بتسويق منصتها كوسيلة لتخفيف الأعمال الورقية حتى يتمكن المعالجون من التركيز بشكل كامل على عملائهم والحصول على توازن أفضل بين العمل والحياة في حياتهم الشخصية.

وقال تال سلمان، الرئيس التنفيذي المشارك للشركة، لـ NPR: “تم تصميم التوت لتقليل العبء الإداري دون التدخل في التجربة العلاجية نفسها”. “إنه يدعم الأطباء ليكونوا أكثر حضورا مع عملائهم.”

عند تفعيله، يقوم النظام بتسجيل المحادثة ونسخها وإنشاء مسودة ملاحظة سريرية ليقوم المعالج بمراجعتها. يمكن للمعالجين تعديل المسودة أو مراجعتها أو تجاهلها. يمكنهم أيضًا حفظه في سجل طبي.

قواعد الخصوصية

يقول سلمان إن الصوت تتم معالجته في الوقت الفعلي ويتم حذفه على الفور، ويتم تخزين النصوص على خوادم في الولايات المتحدة متوافقة مع قانون HIPAA، وهو القانون الفيدرالي الذي يحد من نشر المعلومات الطبية. ويضيف أن الشركة لا تستخدم المحتوى العلاجي لتدريب نماذج الذكاء الاصطناعي الخاصة بها.

يقول سلمان: “يظل محتوى الجلسة العلاجية خاصًا ولا يتم إعادة توجيهه للتدريب”. “يظل الطبيب مسؤولاً بشكل كامل عن رعاية المرضى والتوثيق النهائي.”

الشركات الأخرى التي تقدم خدمات مماثلة لأخصائيي الصحة العقلية هي SimplePractice وBlueprint. تتقاضى الشركات عمومًا رسومًا تتراوح من 19 دولارًا إلى 99 دولارًا شهريًا، مما يجعلها جذابة للممارسين المنفردين الذين غالبًا ما تطغى عليهم المهام الإدارية.

تشير الأبحاث إلى أن المرضى قد يكونون منفتحين على أدوات الذكاء الاصطناعي في العلاج، لكن الراحة محدودة. وجدت دراسة استقصائية وطنية أجرتها شركة YouGov أن الأمريكيين ما زالوا مترددين في استخدام الذكاء الاصطناعي لرعاية الصحة العقلية. ويقول حوالي 11% فقط أنهم منفتحون على استخدامه، ويقول 8% فقط أنهم يثقون به. وقال ما يقرب من نصف المشاركين في الاستطلاع إنهم مترددون في استخدام هذه التكنولوجيا. ويشير الكثيرون إلى الافتقار إلى الفهم البشري باعتباره مصدر قلق كبير، إلى جانب المخاوف بشأن النصائح والخصوصية غير الدقيقة.

وتمتد هذه المخاوف إلى ما هو أبعد من العلاج نفسه.

وجدت دراسة منفصلة أجرتها منظمة الأبحاث الصحية KFF أن حوالي 77% من الأمريكيين يشعرون بالقلق بشأن كيفية تخزين معلوماتهم الصحية واستخدامها بواسطة أنظمة الذكاء الاصطناعي.

يقول الباحثون إن الفجوة بين الفضول والثقة تصبح أكثر وضوحًا في رعاية الصحة العقلية، حيث تكون المحادثات شخصية للغاية. ويشيرون إلى أنه حتى عندما يكون المرضى على استعداد لتجربة هذه التكنولوجيا، فإن الكثيرين منهم ما زالوا يفضلون طمأنينة المعالج البشري.

تقول كيلي أوينز، الأستاذة المساعدة في أخلاقيات الطب في كلية الطب بجامعة نيويورك جروسمان، إن حماية الخصوصية مثل الامتثال لقانون HIPAA لا تلغي إمكانية حدوث انتهاكات.

يقول أوينز: “بغض النظر عن وسائل الحماية المتوفرة لدينا، فإن هذا لا يعني أنه لا يمكن اختراق البيانات”. “هناك الكثير من الأنظمة المتوافقة تمامًا مع قانون HIPAA والتي لا تزال تواجه خروقات كبيرة للبيانات.”

وتقول إن المخاطر حساسة بشكل خاص في العلاج، حيث يشارك المرضى معلومات شخصية عميقة.

موافقة ذات مغزى؟

وبعيدًا عن المخاطر الفنية، يقول أوينز، إن نماذج الموافقة المكتوبة وحدها قد لا تكون كافية.

وتقول: “لدينا مجموعة واسعة من الأبحاث التي تبين أن نموذج الموافقة في حد ذاته لا يعني أن الشخص يتخذ خيارًا مستنيرًا”. “يتصفحها الناس، ولا يقرأونها أو يشعرون بالضغط للموافقة عليها.”

يقول أوينز أنه يجب دائمًا مناقشة التسجيلات بشكل مباشر.

وتقول: “في أي وقت تقوم فيه بتسجيل محادثة، يجب أن يتطلب ذلك محادثة لفظية يتم فيها التسجيل”.

وتقول إن الثقة والسلامة النفسية هما أساس العلاج الفعال للصحة العقلية.

يقول أوينز: “إذا شعر المرضى أن خصوصيتهم قد تم انتهاكها، فقد يؤدي ذلك إلى إلحاق ضرر حقيقي بالعلاقة العلاجية”.

بالنسبة لمولي كوين، هذه المخاطر ليست مجردة.

واجهت أنظمة الرعاية الصحية والشركات الكبرى خروقات متكررة للبيانات في السنوات الأخيرة، ويشعر كوين بالقلق من أن إضافة طبقة أخرى من التكنولوجيا يزيد من فرصة كشف المحادثات الشخصية العميقة في يوم من الأيام.

وتقول: “سنرى انتهاكات”. “ربما ليس غدًا، وربما ليس الأسبوع المقبل. لكن في غضون سنوات قليلة؟ أعتقد أننا سنراهم. ولا أريد أن تكون جلسة العلاج الخاصة بي جزءًا من ذلك”.

مستمع يعمل بتقنية الذكاء الاصطناعي، تجربة مختلفة

بالنسبة لبعض المعالجين، لا يقتصر القلق على الأمن السيبراني فقط.

تقول ماريسا كوهين، معالجة الأزواج والجنس في نيويورك، إن إدخال الذكاء الاصطناعي في العلاج يغير التجربة، حتى لو تلاشت التكنولوجيا في الخلفية.

يقول كوهين: “حتى وجود الذكاء الاصطناعي يغير التجربة العلاجية”. “يعرف العملاء أو يشعرون بأن شيئًا آخر يستمع إليهم. وهذا الوعي يمكن أن يغير إفصاحهم بمهارة.”

وتقول إن العلاج يعتمد على تصور الخصوصية المطلقة.

يقول كوهين: “عندما تقدم شيئًا يتم تخزينه إلكترونيًا، فإن ذلك يثير أسئلة إضافية حول الثقة والسلامة”. “إنه في الأساس طرف ثالث.”

ويشعر كوهين أيضًا بالقلق بشأن الدقة.

وتقول: “إذا تم تقديم أخطاء ولم يقم الطبيب بفحص الملاحظات بدقة، فإن هذا الخطأ أصبح الآن جزءًا من السجل”. “إذا تم استدعاء هذه الملاحظات في أي وقت، فسيصبح ذلك جزءًا من تاريخ شخص ما.”

نعمة لبعض المعالجين

بعض الأطباء يرحبون بهذه التكنولوجيا.

كيم تولسون، التي تصنف نفسها على الإنترنت باسم “المعالجة المسافرة”، تمارس المهنة منذ 30 عامًا وتدير الآن مشروعًا تجاريًا عن بعد بالكامل، حيث ترى العملاء في فيرجينيا أثناء السفر بدوام كامل. وهي تستخدم نظام التسجيل والتوثيق القائم على الذكاء الاصطناعي لإدارة ما تصفه بالعبء الإداري الثقيل.

يقول تولسون: “يقضي معظم الأطباء حوالي 10 ساعات أسبوعيًا في المهام الإدارية، ومن خمس إلى سبع ساعات منها للتوثيق”. “باستخدام نظام الذكاء الاصطناعي، أقضي حوالي دقيقتين لكل عميل، حيث كان يستغرق مني من 15 إلى 20 دقيقة.”

وتقول إنه بالنسبة للمعالجين الذين يأتون من 20 إلى 30 عميلاً، فإن هذا الفارق كبير.

يقول تولسون: “لقد أعاد لي حياتي”. “ليس لدي ملاحظات تتبعني وتطاردني. بعد أن أرى موكلي، أراجع الملاحظة وأوقعها وأنتهي.”

تقول تولسون إن المرونة أتاحت لها الحفاظ على توازن صحي بين العمل والحياة وقضاء المزيد من الوقت في التركيز على العملاء بدلاً من الأعمال الورقية. وتقول إن العديد من العملاء يستجيبون بشكل إيجابي لأسلوب حياتها المتنقل، وغالبًا ما يسألونها من أين تعمل أثناء الجلسات.

تشير الأبحاث في أجزاء أخرى من الرعاية الصحية إلى أن توفير الوقت يمكن أن يكون كبيرًا. في أحد التحليلات الكبيرة لكتّاب الذكاء الاصطناعي في The Permanente Medical Group، وفر الأطباء ما يعادل 16,000 ساعة تقريبًا من وقت التوثيق في عام واحد – ما يقرب من 1,800 يوم عمل – وأبلغوا عن تحسن في رضا المرضى وتفاعلاتهم. ركزت الدراسة على الأطباء بدلاً من المعالجين، لكنها تسلط الضوء على العبء الإداري الذي تهدف هذه الأدوات إلى معالجته.

تقول تولسون إنها تناقش عملية التسجيل بالتفصيل مع العملاء مسبقًا وتوضح أن المشاركة اختيارية. وتقوم أيضًا بمراجعة كل ملاحظة تم إنشاؤها بواسطة الذكاء الاصطناعي قبل أن تصبح جزءًا من السجل الطبي.

وتقول: “هناك أوقات يصاب فيها الشخص بالهلوسة”. “يجب على الطبيب أن يكون حذرًا للغاية. يجب عليك إجراء فحص مزدوج وثلاثي.”

وبينما تعترف بأنه لا يوجد نظام رقمي خالٍ تمامًا من المخاطر، تقول تولسون إنها تشعر بالراحة عند استخدام الأداة كما تشعر بالراحة عند استخدام السجلات الصحية الإلكترونية.

البدء من جديد مع طبيب مختلف

بالنسبة لمولي كوين، فإن المحادثة حول تدوين الملاحظات باستخدام الذكاء الاصطناعي ستعود دائمًا إلى جلسة نوفمبر، وهي الجلسة التي أدركت فيها أنه تم تسجيلها دون موافقتها.

وبعد ذلك ألغت موعدها التالي.

قال معالجها أن بإمكانهم التوقف عن استخدام الأداة. ولكن بحلول ذلك الوقت، يقول كوين، شعرت بأن شيئًا ما قد انكسر في العلاقة.

وتقول: “لقد ذهبت الثقة”.

وفي الأسابيع التالية، بدأت بالبحث عن شخص جديد. وبحلول يناير/كانون الثاني، وجدت معالجًا آخر، وأوضحت منذ البداية أنها لا تريد استخدام الذكاء الاصطناعي في جلساتها.

لم تحولها هذه التجربة عن العلاج نفسه، لكنها ظلت ثابتة بشأن حدودها.

يقول كوين: “هذه محادثة خاصة”. “لا ينبغي لشركات التكنولوجيا أن تكون في الغرفة.”