एआई आपके डॉक्टर के कार्यालय के रास्ते में हो सकता है, लेकिन यह रोगियों को देखने के लिए तैयार नहीं है
किसी ऐसे व्यक्ति के लिए स्वास्थ्य सेवा का क्या उपयोग हो सकता है जो चीजों को गुप्त नहीं रख सकता है, वास्तव में कुछ भी नहीं जानता है, और बोलते समय, जो पहले आया है उसके आधार पर अगले शब्द को भरता है? बहुत सारी, अगर वह व्यक्ति कृत्रिम बुद्धि का सबसे नया रूप है, कुछ सबसे बड़ी कंपनियों के अनुसार।
नवीनतम AI तकनीक को आगे बढ़ाने वाली कंपनियां – जिन्हें “जेनेरेटिव AI” के रूप में जाना जाता है – पर जमा हो रही हैं: गूगल और माइक्रोसॉफ्ट तथाकथित बड़े भाषा मॉडल के प्रकारों को स्वास्थ्य सेवा में लाना चाहते हैं। बड़ी फर्में जो सफेद कोट में लोगों से परिचित हैं – लेकिन शायद आपके औसत जो और जेन से कम – समान रूप से उत्साही हैं: इलेक्ट्रॉनिक मेडिकल रिकॉर्ड दिग्गज एपिक और ओरेकल कर्नर बहुत पीछे नहीं हैं। अंतरिक्ष स्टार्टअप्स से भी भरा हुआ है।
कंपनियां चाहती हैं कि उनका एआई चिकित्सकों के लिए नोट्स ले और उन्हें दूसरी राय दे – यह मानते हुए कि वे कर सकते हैं बुद्धि को “मतिभ्रम” से दूर रखें या, उस मामले के लिए, मरीजों की निजी जानकारी प्रकट करना।
सैन डिएगो में स्क्रिप्स रिसर्च ट्रांसलेशनल इंस्टीट्यूट के निदेशक एरिक टोपोल ने कहा, “कुछ ऐसा चल रहा है जो काफी रोमांचक है।” “इसकी क्षमताओं का अंततः बड़ा प्रभाव पड़ेगा।” टोपोल, कई अन्य पर्यवेक्षकों की तरह, आश्चर्य करता है कि यह कितनी समस्याएं पैदा कर सकता है – जैसे रोगी डेटा लीक करना – और कितनी बार। “हम पता लगाने जा रहे हैं।”
इस तरह की समस्याओं के भूत ने 1,000 से अधिक प्रौद्योगिकी नेताओं को प्रेरित किया एक खुले पत्र पर हस्ताक्षर करने के लिए मार्च में आग्रह किया कि कंपनियां उन्नत AI सिस्टम पर विकास को रोक दें जब तक कि “हमें विश्वास न हो कि उनका प्रभाव सकारात्मक होगा और उनके जोखिम प्रबंधनीय होंगे।” फिर भी, उनमें से कुछ एआई उपक्रमों में अधिक पैसा लगा रहे हैं।
अंतर्निहित तकनीक पाठ या अन्य डेटा के विशाल भाग को संश्लेषित करने पर निर्भर करती है – उदाहरण के लिए, कुछ चिकित्सा मॉडल 2 मिलियन इंटेंसिव केयर यूनिट नोटों पर भरोसा करें बोस्टन में बेथ इज़राइल डेकोनेस मेडिकल सेंटर से – किसी दिए गए प्रश्न का पालन करने वाले पाठ की भविष्यवाणी करने के लिए। यह विचार वर्षों से है, लेकिन सोने की भीड़, और इसके आसपास के विपणन और मीडिया उन्माद, हाल ही के हैं।
दिसंबर 2022 में उन्माद को लात मारी गई थी Microsoft समर्थित OpenAI और इसका प्रमुख उत्पाद, चैटजीपीटी, जो प्राधिकार और शैली के साथ प्रश्नों का उत्तर देता है। उदाहरण के लिए, यह सॉनेट में जेनेटिक्स की व्याख्या कर सकता है।
OpenAI, सैम ऑल्टमैन, एलोन मस्क और रीड हॉफमैन जैसे सिलिकॉन वैली के अभिजात वर्ग द्वारा शुरू किए गए एक शोध उद्यम के रूप में शुरू हुआ, जिसने निवेशकों की जेब में उत्साह भर दिया है। उद्यम में एक जटिल, हाइब्रिड फॉर-प्रॉफिट और गैर-लाभकारी संरचना है। लेकिन माइक्रोसॉफ्ट से 10 बिलियन डॉलर के फंडिंग के एक नए दौर ने ओपनएआई के मूल्य को 29 बिलियन डॉलर तक बढ़ा दिया है, वॉल स्ट्रीट जर्नल ने सूचना दी। अभी, कंपनी Microsoft जैसी कंपनियों को अपनी तकनीक का लाइसेंस दे रही है और उपभोक्ताओं को सब्सक्रिप्शन बेच रही है। अन्य स्टार्टअप एआई ट्रांसक्रिप्शन या अन्य उत्पादों को अस्पताल के सिस्टम या सीधे मरीजों को बेचने पर विचार कर रहे हैं।
अतिशयोक्तिपूर्ण उद्धरण हर जगह हैं। पूर्व ट्रेजरी सचिव लैरी समर्स हाल ही में ट्वीट किया: “यह बदलने जा रहा है कि डॉक्टर क्या करते हैं – लक्षणों को सुनना और निदान करना – इससे पहले कि नर्सें क्या करती हैं – मरीजों को उठने और अस्पताल में खुद को संभालने में मदद करने से पहले।”
लेकिन ओपनएआई द्वारा एक और बड़ी नकदी डालने के कुछ ही हफ्तों बाद, यहां तक कि इसके सीईओ ऑल्टमैन भी धूमधाम से सावधान हैं। “इन प्रणालियों पर प्रचार – भले ही हम जो कुछ भी आशा करते हैं वह सही दीर्घकालिक है – अल्पावधि के लिए पूरी तरह से नियंत्रण से बाहर है,” उन्होंने न्यूयॉर्क टाइम्स में एक मार्च के लेख के लिए कहा.
स्वास्थ्य सेवा में कुछ का मानना है कि एआई का यह नवीनतम रूप उनकी नौकरी लेने वाला है (हालांकि कुछ कंपनियां प्रयोग कर रही हैं – विवादास्पद रूप से – चैटबॉट्स के साथ जो चिकित्सक या देखभाल करने के लिए गाइड के रूप में कार्य करते हैं)। फिर भी, जो लोग तकनीक पर उत्साहित हैं, वे सोचते हैं कि यह उनके काम के कुछ हिस्सों को बहुत आसान बना देगा।
एरिक अर्ज़ुबी, बिलिंग्स, मॉन्ट में एक मनोचिकित्सक, एक अस्पताल प्रणाली के लिए साथी मनोचिकित्सकों का प्रबंधन करते थे। बार-बार, उन्हें उन प्रदाताओं की एक सूची मिलती थी जिन्होंने अभी तक अपने नोट्स समाप्त नहीं किए थे – रोगी की स्थिति का उनका सारांश और उपचार की योजना।
इन नोटों को लिखना स्वास्थ्य प्रणाली में बड़े तनावों में से एक है: कुल मिलाकर, यह एक प्रशासनिक बोझ है। लेकिन भविष्य के प्रदाताओं और निश्चित रूप से, बीमाकर्ताओं के लिए एक रिकॉर्ड विकसित करना आवश्यक है।
“जब लोग दस्तावेज़ीकरण में बहुत पीछे होते हैं, तो इससे समस्याएँ पैदा होती हैं,” अर्ज़ुबी ने कहा। “क्या होगा यदि रोगी अस्पताल में आता है और वहाँ एक नोट है जो पूरा नहीं हुआ है और हमें नहीं पता कि क्या चल रहा है?”
नई तकनीक उन बोझों को हल्का करने में मदद कर सकती है। अर्ज़ुबी नाबला कोपिलॉट नामक एक सेवा का परीक्षण कर रहा है, जो आभासी रोगी यात्राओं के अपने हिस्से पर बैठता है और फिर उन्हें स्वचालित रूप से सारांशित करता है, एक मानक नोट प्रारूप में शिकायत, बीमारी का इतिहास और एक उपचार योजना का आयोजन करता है।
लगभग 50 रोगियों के बाद परिणाम ठोस हैं, उन्होंने कहा: “यह वहां का 90% है।” कोपिलॉट सेवा योग्य सारांश तैयार करता है जिसे अर्ज़ुबी आमतौर पर संपादित करता है। सारांश आवश्यक रूप से अशाब्दिक संकेतों या विचारों पर नहीं उठाते हैं, शायद आरज़ुबी मुखर नहीं होना चाहते। फिर भी, उन्होंने कहा, लाभ महत्वपूर्ण हैं: उन्हें नोट्स लेने के बारे में चिंता करने की ज़रूरत नहीं है और इसके बजाय मरीजों के साथ बात करने पर ध्यान केंद्रित कर सकते हैं। और वह समय बचाता है।
“अगर मेरे पास एक पूर्ण रोगी दिन है, जहां मैं 15 मरीजों को देख सकता हूं, तो मैं कहूंगा कि यह दिन के अंत में मुझे एक अच्छा घंटा बचाता है,” उन्होंने कहा। (यदि तकनीक को व्यापक रूप से अपनाया जाता है, तो उन्हें उम्मीद है कि अस्पताल केवल अधिक रोगियों को शेड्यूल करके बचाए गए समय का लाभ नहीं उठाएंगे। “यह उचित नहीं है,” उन्होंने कहा।)
नाबला कोपिलॉट ऐसी एकमात्र सेवा नहीं है; Microsoft उसी अवधारणा को आज़मा रहा है। हेल्थकेयर इंफॉर्मेशन एंड मैनेजमेंट सिस्टम्स सोसाइटी के अप्रैल के सम्मेलन में – एक उद्योग कॉन्फैब जहां स्वास्थ्य विशेषज्ञ विचारों की अदला-बदली करते हैं, घोषणाएं करते हैं और अपना माल बेचते हैं – एवरकोर के निवेश विश्लेषकों ने नई तकनीकों के लिए शीर्ष संभावना के रूप में प्रशासनिक बोझ को कम करने पर प्रकाश डाला।
लेकिन पूरी तरह से? उन्होंने मिश्रित समीक्षाएं सुनीं। और यह दृष्टिकोण आम है: बहुत से प्रौद्योगिकीविद और डॉक्टर उभयभावी हैं।
उदाहरण के लिए, यदि आप निदान के बारे में फंस गए हैं, तो इनमें से किसी एक कार्यक्रम में रोगी डेटा खिलाना “एक दूसरी राय प्रदान कर सकता है, कोई सवाल नहीं,” टोपोल ने कहा। “मुझे यकीन है कि चिकित्सक इसे कर रहे हैं।” हालाँकि, यह तकनीक की वर्तमान सीमाओं में चलता है।
जोशुआ तामायो-सरवर, एक चिकित्सक और स्टार्टअप इन्फ्लेक्ट हेल्थ के कार्यकारी, ने एक आपातकालीन विभाग में अपने स्वयं के अभ्यास के आधार पर काल्पनिक रोगी परिदृश्यों को एक प्रणाली में यह देखने के लिए खिलाया कि यह कैसा प्रदर्शन करेगा। उन्होंने कहा कि यह जीवन-धमकी की स्थिति से चूक गया। “यह समस्याग्रस्त लगता है।”
प्रौद्योगिकी भी “भ्रम” करने के लिए जाती है – अर्थात, ऐसी जानकारी बनाना जो विश्वसनीय लगती है। औपचारिक अध्ययन में प्रदर्शन की एक विस्तृत श्रृंखला पाई गई है। ओपन-एंडेड बोर्ड परीक्षा का उपयोग करके चैटजीपीटी और Google उत्पादों की जांच करने वाला एक प्रारंभिक शोध पत्र न्यूरोसर्जरी से प्रश्न 2% की मतिभ्रम दर पाई गई। द्वारा एक अध्ययन स्टैनफोर्ड शोधकर्ताओं, सह-लेखक निगम शाह ने केएफएफ हेल्थ न्यूज को बताया कि 64 नैदानिक परिदृश्यों में एआई प्रतिक्रियाओं की गुणवत्ता की जांच करने पर, 6% मामलों में मनगढ़ंत या भ्रामक उद्धरण पाए गए। एक और प्रारंभिक पेपर पाया गया, जटिल कार्डियोलॉजी मामलों में, चैटजीपीटी आधे समय विशेषज्ञ राय से सहमत था।
गोपनीयता एक और चिंता है। यह स्पष्ट नहीं है कि इस प्रकार के एआई-आधारित सिस्टम में फीड की गई जानकारी अंदर रहेगी या नहीं।
सिद्धांत रूप में, सिस्टम में निजी जानकारी को बाहर निकलने से रोकने के लिए रेलिंग हैं। उदाहरण के लिए, जब केएफएफ हेल्थ न्यूज ने चैटजीपीटी से उसका ईमेल पता पूछा, तो सिस्टम ने उस निजी जानकारी को प्रकट करने से इनकार कर दिया। लेकिन जब एक पात्र के रूप में रोल-प्ले करने के लिए कहा गया और इस लेख के लेखक के ईमेल पते के बारे में पूछा गया, तो उसने खुशी-खुशी जानकारी छोड़ दी। (यह वास्तव में 2021 में लेखक का सही ईमेल पता था, जब चैटजीपीटी का संग्रह समाप्त हो गया।)
स्टैनफोर्ड हेल्थ केयर के मुख्य डेटा वैज्ञानिक शाह ने कहा, “मैं रोगी डेटा नहीं डालूंगा।” “हम समझ नहीं पा रहे हैं कि ओपनएआई सर्वरों को हिट करने के बाद इन डेटा के साथ क्या होता है।”
ओपनएआई की प्रवक्ता टीना सुई ने केएफएफ हेल्थ न्यूज को बताया कि किसी को “गंभीर चिकित्सा स्थितियों के लिए नैदानिक या उपचार सेवाएं प्रदान करने के लिए कभी भी हमारे मॉडल का उपयोग नहीं करना चाहिए।” उसने कहा, “वे चिकित्सा जानकारी प्रदान करने के लिए ठीक नहीं हैं”।
नए शोध के विस्फोट के साथ, टोपोल ने कहा, “मुझे नहीं लगता कि चिकित्सा समुदाय के पास क्या होने वाला है इसके बारे में वास्तव में अच्छा संकेत है।”
केएफएफ स्वास्थ्य समाचारजिसे पहले कैसर हेल्थ न्यूज़ के नाम से जाना जाता था, एक राष्ट्रीय न्यूज़ रूम है जो स्वास्थ्य संबंधी मुद्दों के बारे में गहन पत्रकारिता करता है।