विशेषज्ञ का आग्रह है कि चिकित्सीय आवाज एआई की नैतिक और नियामक निगरानी की अत्यधिक आवश्यकता है

जैसे-जैसे वॉयस आर्टिफिशियल इंटेलिजेंस (एआई) नैदानिक ​​​​सेटिंग्स में उपयोग की ओर बढ़ रहा है, साइमन फ्रेजर विश्वविद्यालय के एक शोधकर्ता नैतिक, कानूनी और सामाजिक निरीक्षण की तत्काल आवश्यकता पर प्रकाश डाल रहे हैं – विशेष रूप से चिकित्सीय देखभाल में।

वॉयस एआई पिच और घबराहट या प्रवाह जैसे मुखर गुणों और लोगों द्वारा उपयोग किए जाने वाले विशिष्ट शब्दों के आधार पर शारीरिक, संज्ञानात्मक और स्वास्थ्य स्थितियों के संकेतों का पता लगाने के लिए मुखर पैटर्न का विश्लेषण करता है। बायोमार्कर के रूप में कार्य करने की क्षमता के कारण कुछ तकनीकी कंपनियों ने इसे स्वास्थ्य देखभाल का “नया खून” भी करार दिया है, लेकिन एसएफयू स्वास्थ्य विज्ञान शोधकर्ता ज़ोहा ख्वाजा सावधानी बरतने का आग्रह करती हैं।

उसके थीसिस पेपरख्वाजा, के एक सदस्य ब्रिज2एआई वॉयस कंसोर्टियम, मानसिक स्वास्थ्य क्षेत्र में आवाज-आधारित एआई ऐप्स की क्षमता और खतरों की पड़ताल करता है।

ख्वाजा के अध्ययन में चिकित्सकों, नैतिकतावादियों और रोगियों सहित 13 हितधारकों से अंतर्दृष्टि इकट्ठा करने के लिए संरचित, बहु-गोल सर्वेक्षण का उपयोग किया गया। जबकि 77% प्रतिभागियों ने रोगी परिणामों में सुधार के लिए वॉयस एआई का उपयोग करने का समर्थन किया, 92% ने सहमति व्यक्त की कि इसके एकीकरण की निगरानी के लिए स्वास्थ्य देखभाल या सरकारी संगठनों द्वारा शासन मॉडल स्थापित किया जाना चाहिए।

ख्वाजा कहते हैं, “वॉयस एआई मानसिक स्वास्थ्य क्षेत्र में एक वस्तुनिष्ठ उपकरण के रूप में वास्तविक वादा रखता है, जो हमेशा सेल्फ-रिपोर्टिंग और साक्षात्कार जैसे व्यक्तिपरक निदान पर निर्भर रहा है।” “लेकिन तकनीक की उद्यमशीलता की गति स्वास्थ्य देखभाल जैसे उच्च जोखिम वाले माहौल में नियामक निरीक्षण को पीछे छोड़ रही है।”

कुछ कंपनियां पहले से ही ऐसे ऐप्स पेश करती हैं जो मानसिक फिटनेस का आकलन करने के लिए छोटी आवाज के नमूनों का विश्लेषण करती हैं। हालाँकि, ख्वाजा ने चेतावनी दी है कि ये उपकरण अक्सर “वेलनेस” ग्रे ज़ोन में काम करते हैं – चिकित्सा उपकरणों के रूप में वर्गीकरण से बचने और गोपनीयता सुरक्षा को दरकिनार करने से।

ख्वाजा बताते हैं, “चिकित्सीय गलत धारणा का वास्तविक जोखिम है, जहां लोग यह मान सकते हैं कि ये ऐप्स नैदानिक ​​​​निदान या उपचार प्रदान कर रहे हैं, जबकि वास्तव में ऐसा नहीं है।” “यह उन कमजोर उपयोगकर्ताओं के लिए विशेष रूप से खतरनाक है जिनके पास पारंपरिक देखभाल तक पहुंच नहीं है।”

प्रतिभागियों द्वारा उठाई गई प्रमुख चिंताओं में एल्गोरिथम पूर्वाग्रह, पारदर्शिता की कमी, देखभाल में मानवीय संबंध का क्षरण और अस्पष्ट जवाबदेही शामिल हैं। अध्ययन एक डिजिटल अनुकंपा देखभाल दृष्टिकोण की वकालत करता है, जहां एआई उपकरण चिकित्सा में मानवीय संबंधों का समर्थन करते हैं, न कि प्रतिस्थापित करते हैं।

ख्वाजा कहते हैं, “मरीज़ किसी व्यक्ति की तुलना में चैटबॉट से बात करना अधिक सुरक्षित महसूस कर सकते हैं।” “लेकिन इससे अत्यधिक निर्भरता और अलगाव हो सकता है। इन उपकरणों को चिकित्सक-रोगी बंधन को मजबूत करना चाहिए, न कि इसे कमजोर करना चाहिए।”

वह एथिक्स डंपिंग को रोकने के लिए डेवलपर्स, नियामकों और स्वास्थ्य देखभाल प्रदाताओं के बीच एक साझा जिम्मेदारी मॉडल की भी सिफारिश करती है – चिकित्सकों पर नैतिक बोझ का अनुचित स्थानांतरण। विशेष रूप से, 83% प्रतिभागियों ने सहमति व्यक्त की कि वॉयस एआई टूल के उपयोग से उत्पन्न प्रतिकूल घटनाओं के लिए स्वास्थ्य देखभाल चिकित्सकों को जवाबदेह ठहराया जाना चाहिए।

ख्वाजा कहते हैं, ”लेकिन चिकित्सक पहले से ही अत्यधिक बोझ से दबे हुए हैं।” “उनसे इन प्रौद्योगिकियों की अंतिम जिम्मेदारी उठाने की उम्मीद करना अवास्तविक है।”

आवाज को बायोमार्कर के रूप में मान्य करने के लिए क्लिनिकल परीक्षण वर्तमान में अमेरिका में चल रहे हैं, जहां नैतिक चुनौतियों का अनुमान लगाने और वॉयस एआई के नैदानिक ​​​​अभ्यास में प्रवेश करने से पहले नीति को सूचित करने के लिए नई प्रौद्योगिकियों के परीक्षण के लिए नियामक सैंडबॉक्स-नियंत्रित वातावरण का प्रस्ताव किया जा रहा है।

ख्वाजा कहते हैं, “मैं यह नहीं कह रहा हूं कि हमें मानसिक स्वास्थ्य देखभाल में वॉयस एआई या वर्चुअल चैटबॉट का उपयोग नहीं करना चाहिए।” “लेकिन हमें उन्हें सुरक्षित रूप से, जिम्मेदारी से और करुणा के साथ उपयोग करना चाहिए। हमें एक ऐसे ढांचे की आवश्यकता है जो नवाचार को नैतिकता के साथ, प्रौद्योगिकी को मानवता के साथ संतुलित करे।”