एल्गोरिथम पूर्वाग्रह को प्रबंधित करना अकादमिक चिकित्सा केंद्रों में एआई शासन समूहों के लिए प्रमुख फोकस क्षेत्रों में से एक है, और न्यूयॉर्क में माउंट सिनाई में इकन स्कूल ऑफ मेडिसिन से नया शोध एक अच्छा अनुस्मारक प्रदान करता है कि इक्विटी फोकस इतना महत्वपूर्ण क्यों है। शोधकर्ताओं ने पाया कि जेनेरिक एआई मॉडल एक ही चिकित्सा स्थिति के लिए अलग -अलग उपचारों की सिफारिश कर सकते हैं जो केवल एक रोगी की सामाजिक आर्थिक और जनसांख्यिकीय पृष्ठभूमि पर आधारित है।
उनके निष्कर्ष 7 अप्रैल, 2025 में विस्तृत हैं, ऑनलाइन अंक प्रकृति चिकित्सा बड़े भाषा मॉडल द्वारा चिकित्सा निर्णय लेने में सामाजिक-जनसांख्यिकीय पूर्वाग्रहों के एक पेपर में: एक बड़े पैमाने पर बहु-मॉडल विश्लेषण। “
उनकी जांच के हिस्से के रूप में, शोधकर्ताओं ने 1,000 आपातकालीन विभाग के मामलों पर नौ बड़े भाषा मॉडल (एलएलएम) पर जोर दिया, प्रत्येक ने 32 अलग-अलग रोगी पृष्ठभूमि के साथ दोहराया, जिससे 1.7 मिलियन से अधिक एआई-जनित चिकित्सा सिफारिशें उत्पन्न हुईं। समान नैदानिक विवरण के बावजूद, एआई मॉडल ने कभी -कभी एक रोगी के सामाजिक आर्थिक और जनसांख्यिकीय प्रोफ़ाइल के आधार पर अपने निर्णयों को बदल दिया, जिससे ट्राइएज प्राथमिकता, नैदानिक परीक्षण, उपचार दृष्टिकोण और मानसिक स्वास्थ्य मूल्यांकन जैसे प्रमुख क्षेत्रों को प्रभावित किया गया।
अध्ययन सार बताता है कि एक चिकित्सक-व्युत्पन्न बेसलाइन और समाजशास्त्रीय पहचानकर्ताओं के बिना प्रत्येक मॉडल के स्वयं के नियंत्रण मामले की तुलना में, काले या अनसुना के रूप में लेबल किए गए मामलों को एलजीबीटीक्यूआईए+ के रूप में पहचानने या पहचानने के लिए अधिक बार तत्काल देखभाल, आक्रामक हस्तक्षेप या मानसिक स्वास्थ्य मूल्यांकन की ओर निर्देशित किया गया था। उदाहरण के लिए, LGBTQIA+ उपसमूहों से होने वाले कुछ मामलों को नैदानिक रूप से संकेत की तुलना में लगभग छह से सात गुना अधिक बार मानसिक स्वास्थ्य आकलन की सिफारिश की गई थी।
दूसरी ओर, उच्च आय वाले स्थिति के रूप में लेबल किए गए मामलों को उन्नत इमेजिंग परीक्षणों जैसे गणना टोमोग्राफी और चुंबकीय अनुनाद इमेजिंग के लिए काफी अधिक सिफारिशें प्राप्त हुईं, जबकि निम्न और मध्यम-आय वाले-लेबल वाले मामले अक्सर बुनियादी या आगे के परीक्षण तक सीमित थे। कई-परिकल्पना सुधारों को लागू करने के बाद, ये प्रमुख अंतर बने रहे। उनके परिमाण को नैदानिक तर्क या दिशानिर्देशों द्वारा समर्थित नहीं किया गया था, यह सुझाव देते हुए कि वे मॉडल-चालित पूर्वाग्रह को प्रतिबिंबित कर सकते हैं, जो अंततः स्वीकार्य नैदानिक भिन्नता के बजाय स्वास्थ्य असमानताओं को जन्म दे सकता है, अमूर्त राज्यों।
एक बयान में, माउंट सिनाई में ICAHN स्कूल ऑफ मेडिसिन में विंडरीच डिपार्टमेंट ऑफ आर्टिफिशियल इंटेलिजेंस एंड ह्यूमन हेल्थ में जनरेटिव-एई के प्रमुख सह-सीनियर लेखक आईल क्लैंग ने अध्ययन के महत्व को समझाया, “हमारे शोध ने एआई एश्योरेंस के लिए एक फ्रेमवर्क और स्वास्थ्य संबंधी संस्थाओं को डिजाइन करने में मदद की, जो कि एआई को एक फ्रेमवर्क प्रदान करता है। डिजाइन, और ओवरसाइट।
शोधकर्ताओं ने सावधानी बरतें कि अध्ययन केवल एआई व्यवहार के एक स्नैपशॉट का प्रतिनिधित्व करता है। भविष्य के अनुसंधान में यह मूल्यांकन करने के लिए आश्वासन परीक्षण शामिल करना जारी रहेगा कि एआई मॉडल वास्तविक दुनिया की नैदानिक सेटिंग्स में कैसे प्रदर्शन करते हैं और क्या अलग-अलग संकेत तकनीकें पूर्वाग्रह को कम कर सकती हैं। टीम का लक्ष्य अन्य हेल्थकेयर संस्थानों के साथ एआई उपकरणों को परिष्कृत करने के लिए भी काम करना है, यह सुनिश्चित करना कि वे उच्चतम नैतिक मानकों को बनाए रखते हैं और सभी रोगियों का उचित व्यवहार करते हैं।
इसके बाद, जांचकर्ताओं ने अपने वास्तविक दुनिया के प्रभाव को मापने के लिए अस्पताल की सेटिंग्स में मल्टीस्टेप क्लिनिकल वार्तालापों और पायलटिंग एआई मॉडल का अनुकरण करके अपने काम का विस्तार करने की योजना बनाई है। उन्हें उम्मीद है कि उनके निष्कर्ष स्वास्थ्य देखभाल में एआई आश्वासन के लिए नीतियों और सर्वोत्तम प्रथाओं के विकास का मार्गदर्शन करेंगे, इन शक्तिशाली नए उपकरणों में विश्वास को बढ़ावा देंगे।
