آموزش و راهنما

هوش مصنوعی در پزشکی چیست؟ کاربردها، مزایا و آینده

هوش مصنوعی در پزشکی برای تحلیل تصاویر، پشتیبانی از تصمیم بالینی، پایش بیمار، کشف دارو، مستندسازی و مدیریت مراکز درمانی استفاده می‌شود. در این راهنما، کاربردها، مزایا، محدودیت‌ها، معیارهای ارزیابی و روش پیاده‌سازی مسئولانه سامانه‌های هوش مصنوعی پزشکی را بررسی می‌کنیم.

هوش مصنوعی در پزشکی به استفاده از الگوریتم‌ها و مدل‌های محاسباتی برای تحلیل اطلاعات سلامت، پشتیبانی از کارکنان درمان، خودکارسازی فرایندها و کمک به پژوهش‌های پزشکی گفته می‌شود.

این فناوری می‌تواند تصاویر رادیولوژی را بررسی کند، اطلاعات مهم پرونده بیمار را استخراج کند، پیش‌نویس گزارش بسازد، بیماران پرخطر را برای بررسی بیشتر اولویت‌بندی کند یا فرایندهای اداری یک مرکز درمانی را سریع‌تر انجام دهد.

بااین‌حال، هوش مصنوعی پزشکی یک مفهوم واحد نیست. تفاوت زیادی میان یک دستیار تولید متن برای پاسخ به سؤال‌های اداری و یک سامانه تشخیص بیماری از تصویر پزشکی وجود دارد. هرچه خروجی سیستم تأثیر بیشتری بر سلامت بیمار داشته باشد، الزامات اعتبارسنجی، نظارت انسانی و تأیید قانونی آن نیز جدی‌تر می‌شود.

سازمان جهانی بهداشت ضمن اشاره به ظرفیت هوش مصنوعی برای بهبود تشخیص، درمان، پژوهش، توسعه دارو و سلامت عمومی، تأکید می‌کند که اخلاق، حقوق انسان و پاسخ‌گویی باید در مرکز طراحی و استفاده از این سامانه‌ها قرار بگیرند. راهنمای اخلاق و حکمرانی هوش مصنوعی در سلامت سازمان جهانی بهداشت

هوش مصنوعی در پزشکی چگونه کار می‌کند؟

یک سامانه هوش مصنوعی پزشکی معمولاً داده‌ای مانند متن، تصویر، سیگنال یا اطلاعات ساختاریافته را دریافت می‌کند و خروجی مشخصی تولید می‌کند.

ورودی سیستم ممکن است شامل این موارد باشد:

تصویر رادیولوژی
سی‌تی‌اسکن
ام‌آر‌آی
تصویر پاتولوژی
سیگنال نوار قلب
نتیجه آزمایش
متن پرونده پزشکی
صدای مکالمه پزشک و بیمار
داده دستگاه پوشیدنی
اطلاعات دارویی
داده‌های پژوهشی

خروجی نیز می‌تواند یکی از موارد زیر باشد:

تشخیص یک الگوی مشکوک
اندازه‌گیری یا قطعه‌بندی عضو
امتیاز احتمال
اولویت‌بندی بیمار
خلاصه پرونده
استخراج داروها و علائم
پیش‌نویس گزارش
هشدار برای بررسی متخصص
پاسخ اداری
پیشنهاد موضوع پژوهشی
پیش‌بینی یک نتیجه مشخص

نکته مهم این است که خروجی مدل لزوماً «تشخیص قطعی» نیست. در بسیاری از کاربردها، هوش مصنوعی فقط اطلاعات را مرتب، برجسته یا اولویت‌بندی می‌کند تا متخصص تصمیم نهایی را بگیرد.

انواع هوش مصنوعی در پزشکی

یادگیری ماشین

مدل‌های یادگیری ماشین از داده‌های گذشته برای یافتن الگو و پیش‌بینی نتیجه استفاده می‌کنند.

برای مثال، یک مدل ممکن است با استفاده از سن، علائم حیاتی و نتایج آزمایش، احتمال یک رویداد مشخص را برآورد کند.

یادگیری عمیق

یادگیری عمیق بیشتر در تحلیل تصاویر، صدا و سیگنال‌های پیچیده استفاده می‌شود. شبکه‌های عصبی می‌توانند الگوهایی را در تصاویر پزشکی پیدا کنند که تعریف مستقیم آن‌ها با قواعد دستی دشوار است.

پردازش زبان طبیعی

پردازش زبان طبیعی برای تحلیل متن‌های پزشکی به کار می‌رود:

استخراج اطلاعات از پرونده
خلاصه‌سازی گزارش‌ها
طبقه‌بندی اسناد
شناسایی دارو و دوز
جست‌وجوی پرونده
تولید پیش‌نویس نامه
تبدیل گفتار به متن

مدل‌های زبانی بزرگ

مدل‌های زبانی می‌توانند متن پزشکی را خلاصه، بازنویسی یا ساختاریافته کنند. آن‌ها همچنین برای دستیارهای کارکنان، جست‌وجوی دانش و پاسخ‌گویی اداری قابل استفاده‌اند.

این مدل‌ها ممکن است پاسخ نادرست اما ظاهراً قانع‌کننده تولید کنند. به همین دلیل، استفاده مستقیم از مدل عمومی برای تشخیص، تجویز یا تصمیم درمانی قابل اتکا نیست.

بینایی ماشین

بینایی ماشین تصاویر و ویدیوهای پزشکی را تحلیل می‌کند. کاربردهای آن از شناسایی ناحیه مشکوک تا اندازه‌گیری ساختارها و کنترل کیفیت تصویر گسترده است.

هوش مصنوعی مولد

هوش مصنوعی مولد می‌تواند متن، تصویر مصنوعی، داده آموزشی، گزارش یا محتوای توضیحی ایجاد کند.

این فناوری در پزشکی برای کارهایی مانند تولید پیش‌نویس، ساخت داده مصنوعی پژوهشی، آموزش و شبیه‌سازی بررسی می‌شود؛ اما خروجی آن باید متناسب با ریسک کاربرد کنترل شود.

کاربردهای هوش مصنوعی در پزشکی

هوش مصنوعی در رادیولوژی

رادیولوژی یکی از شناخته‌شده‌ترین حوزه‌های کاربرد هوش مصنوعی پزشکی است. مدل‌های تصویری می‌توانند برای تحلیل تصاویر زیر استفاده شوند:

رادیوگرافی
ماموگرافی
سی‌تی‌اسکن
ام‌آر‌آی
سونوگرافی
تصویربرداری هسته‌ای

کاربردهای متداول عبارت‌اند از:

شناسایی ناحیه مشکوک
قطعه‌بندی اندام یا ضایعه
اندازه‌گیری حجم
مقایسه تصاویر دوره‌ای
اولویت‌بندی موارد فوری
بهبود کیفیت تصویر
آماده‌کردن پیش‌نویس گزارش

فهرست تجهیزات پزشکی مبتنی بر هوش مصنوعی FDA نشان می‌دهد بخش قابل‌توجهی از محصولات ثبت‌شده در حوزه رادیولوژی قرار دارند. وجود یک محصول در چنین فهرستی به معنای مناسب‌بودن آن برای هر کشور، بیمارستان یا کاربرد دیگری نیست؛ هر محصول برای هدف استفاده و شرایط مشخص ارزیابی می‌شود. فهرست تجهیزات پزشکی مبتنی بر هوش مصنوعی FDA

هوش مصنوعی در پاتولوژی

در پاتولوژی دیجیتال، نمونه‌های بافتی به تصاویر بسیار بزرگ تبدیل می‌شوند. مدل می‌تواند به متخصص در یافتن نواحی مهم، شمارش سلول‌ها، اندازه‌گیری نشانگرها و اولویت‌بندی اسلایدها کمک کند.

کیفیت رنگ‌آمیزی، نوع اسکنر، روش آماده‌سازی نمونه و تفاوت میان مراکز می‌تواند عملکرد مدل را تغییر دهد. بنابراین، ارزیابی روی داده‌های همان محیط درمانی اهمیت زیادی دارد.

تشخیص بیماری با هوش مصنوعی

بعضی سامانه‌ها برای تشخیص یا غربالگری یک وضعیت مشخص طراحی می‌شوند. برای مثال، مدل می‌تواند الگوی معینی را در تصویر چشم، پوست، ریه یا سیگنال قلب بررسی کند.

اما عبارت «تشخیص بیماری با هوش مصنوعی» نباید به این معنا تفسیر شود که هر چت‌بات عمومی می‌تواند جای پزشک را بگیرد. سامانه تشخیصی پزشکی باید برای هدف مشخص، جامعه هدف، نوع داده و شرایط استفاده اعتبارسنجی شده باشد.

پشتیبانی از تصمیم‌گیری بالینی

سامانه پشتیبان تصمیم بالینی می‌تواند اطلاعات مرتبط را در زمان مناسب در اختیار پزشک قرار دهد.

کاربردها ممکن است شامل موارد زیر باشند:

نمایش تداخل احتمالی داروها
یادآوری دستورالعمل‌ها
محاسبه امتیازهای بالینی
اولویت‌بندی موارد
نمایش روند نتایج
شناسایی داده‌های ناقص
پیشنهاد بررسی بیشتر

هدف چنین سامانه‌ای باید پشتیبانی از تصمیم متخصص باشد، نه پنهان‌کردن منطق تصمیم یا حذف مسئولیت انسانی.

پیش‌بینی خطر بیمار

مدل‌های پیش‌بینی می‌توانند احتمال یک رویداد تعریف‌شده را برآورد کنند؛ برای مثال احتمال بازگشت بیمار، وخامت وضعیت یا نیاز به بررسی فوری.

عملکرد مدل باید در محیط واقعی پایش شود. تغییر جمعیت بیماران، شیوه ثبت داده یا پروتکل درمان می‌تواند باعث افت عملکرد مدل در طول زمان شود.

پزشکی شخصی‌سازی‌شده

در پزشکی شخصی‌سازی‌شده تلاش می‌شود اطلاعات ژنتیکی، ویژگی‌های بیمار، سابقه درمان و داده‌های دیگر برای انتخاب یا ارزیابی روش مناسب‌تر استفاده شوند.

هوش مصنوعی می‌تواند تحلیل مجموعه داده‌های بزرگ را تسهیل کند، اما تصمیم نهایی باید با شواهد معتبر، راهنمای بالینی و نظر متخصص هماهنگ باشد.

کشف و توسعه دارو

هوش مصنوعی در مراحل مختلف پژوهش دارویی استفاده می‌شود:

شناسایی اهداف زیستی
جست‌وجوی ترکیبات
پیش‌بینی ویژگی مولکول‌ها
طراحی مولکول
تحلیل مقالات
انتخاب فرضیه پژوهشی
طراحی آزمایش
شناسایی کاربرد جدید برای داروها
تحلیل داده‌های کارآزمایی

پیش‌بینی رایانه‌ای می‌تواند تعداد گزینه‌ها را محدود کند، اما جایگزین آزمایش‌های آزمایشگاهی، ارزیابی بالینی و فرایند تأیید دارو نیست.

جراحی و رباتیک پزشکی

هوش مصنوعی می‌تواند در برنامه‌ریزی جراحی، تحلیل تصویر، رهگیری ابزار، مسیریابی و آموزش جراح به کار رود.

در این حوزه، خطای کوچک ممکن است پیامد جدی داشته باشد. بنابراین کنترل زمان واقعی، روش توقف ایمن، ثبت رویداد و مسئولیت متخصص باید از ابتدا طراحی شوند.

پایش بیمار و دستگاه‌های پوشیدنی

ساعت هوشمند، حسگر، دستگاه خانگی و تجهیزات بیمارستانی می‌توانند حجم زیادی از داده تولید کنند. مدل‌های هوش مصنوعی برای شناسایی تغییر، حذف نویز یا ایجاد هشدار استفاده می‌شوند.

هشدار بیش‌ازحد می‌تواند کارکنان را خسته کند و هشدار ناکافی نیز خطرناک است. حساسیت سامانه باید با نرخ هشدار کاذب متعادل شود.

هوش مصنوعی در دندانپزشکی

کاربردهای احتمالی شامل تحلیل تصویر، طراحی درمان، بررسی ساختار دندان، مدیریت اسناد و ارتباط با بیمار است.

هر ابزار باید بر اساس کاربرد ادعاشده، نوع تصویر، گروه بیمار و شرایط قانونی محل استفاده ارزیابی شود.

هوش مصنوعی در چشم‌پزشکی

تصاویر شبکیه و دیگر داده‌های چشمی می‌توانند با مدل‌های تصویری بررسی شوند. بعضی سامانه‌ها برای غربالگری یک وضعیت مشخص توسعه یافته‌اند.

خروجی غربالگری با تشخیص کامل چشم‌پزشکی تفاوت دارد و نتیجه آن باید در مسیر ارجاع و مراقبت مناسب قرار بگیرد.

سلامت از راه دور

هوش مصنوعی می‌تواند در سامانه‌های سلامت از راه دور برای این موارد استفاده شود:

آماده‌سازی اطلاعات پیش از ویزیت
دسته‌بندی درخواست‌ها
خلاصه‌سازی مکالمه
یادآوری نوبت
ترجمه
آموزش عمومی
پیگیری پرسش‌های اداری

سامانه نباید بدون طراحی و تأیید مناسب، علائم خطر را نادیده بگیرد یا پاسخ عمومی را جایگزین ارزیابی حرفه‌ای کند.

کاربرد مدل‌های زبانی در پزشکی

مدل‌های زبانی عمومی برای تولید متن ساخته شده‌اند و الزاماً ابزار پزشکی تأییدشده نیستند. کاربردهای کم‌خطرتر و قابل‌کنترل آن‌ها می‌تواند شامل موارد زیر باشد:

خلاصه‌سازی برای بازبینی

مدل می‌تواند یک متن طولانی را خلاصه کند، اما نسخه اصلی باید حفظ شود و متخصص صحت خلاصه را بررسی کند.

تبدیل گفتار پزشک به پیش‌نویس

صدای مکالمه یا دیکته می‌تواند به متن تبدیل شود و سپس مدل پیش‌نویس یادداشت را آماده کند. تشخیص نام دارو، دوز، عدد و اصطلاح تخصصی باید بررسی شود.

استخراج اطلاعات

مدل می‌تواند نام دارو، تاریخ، بخش درمانی یا فیلدهای مشخص را از متن استخراج کند. خروجی ساختاریافته باید با قواعد نرم‌افزاری اعتبارسنجی شود.

ساده‌سازی محتوای آموزشی

متن تخصصی می‌تواند به زبان ساده‌تر بازنویسی شود. مدل نباید جزئیات مهم، هشدارها یا شرایط استثنا را حذف کند.

جست‌وجوی دانش پزشکی

یک دستیار مبتنی بر RAG می‌تواند پاسخ را از منابع تأییدشده سازمان استخراج کند. پاسخ باید همراه با منبع، نسخه و تاریخ سند نمایش داده شود.

برای آشنایی با این معماری می‌توانید مقاله RAG چیست و چگونه کار می‌کند؟ را مطالعه کنید.

پاسخ‌گویی اداری

یک دستیار می‌تواند درباره ساعت کاری، مدارک، بیمه، فرایند نوبت و قوانین مرکز پاسخ دهد. این کاربرد با ارائه توصیه پزشکی متفاوت است و باید مسیر سؤال بالینی را به نیروی انسانی منتقل کند.

هوش مصنوعی در بیمارستان

هوش مصنوعی فقط برای تشخیص بیماری نیست. بخش بزرگی از کاربردهای قابل‌اجرا در بیمارستان‌ها به فرایندهای عملیاتی مربوط می‌شود:

نوبت‌دهی
دسته‌بندی درخواست‌های غیر بالینی
مدیریت اسناد
کدگذاری و استخراج اطلاعات
پیش‌بینی حجم مراجعه
برنامه‌ریزی منابع
مدیریت موجودی
خلاصه‌سازی جلسات
پاسخ به سؤالات اداری
جست‌وجو در دستورالعمل‌های داخلی
بررسی کامل‌بودن فرم‌ها
تهیه گزارش مدیریتی

این کاربردها معمولاً ریسک بالینی کمتری دارند و می‌توانند نقطه شروع مناسب‌تری برای اولین پروژه باشند.

مقاله پردازش هوشمند اسناد چیست؟ روش استخراج و اعتبارسنجی اطلاعات از اسناد را توضیح می‌دهد.

مزایای هوش مصنوعی در پزشکی

پردازش سریع حجم زیاد اطلاعات

هوش مصنوعی می‌تواند تعداد زیادی تصویر، سند یا رکورد را بررسی و موارد مرتبط را برای توجه بیشتر مشخص کند.

کاهش کارهای تکراری

بخشی از ثبت اطلاعات، دسته‌بندی، خلاصه‌سازی و پاسخ‌گویی اداری قابل خودکارسازی است. این کار می‌تواند زمان کارکنان را برای وظایف مهم‌تر آزاد کند.

استانداردسازی بعضی فرایندها

سامانه می‌تواند یک قالب ثابت برای استخراج یا ثبت اطلاعات ایجاد کند. البته استانداردبودن خروجی به معنای درست‌بودن آن نیست و کنترل کیفیت همچنان لازم است.

کمک به یافتن الگو

مدل‌ها می‌توانند روابطی را در داده‌های بزرگ پیدا کنند که بررسی دستی آن‌ها دشوار است.

دسترسی بهتر به دانش

دستیار متصل به منابع معتبر می‌تواند جست‌وجوی دستورالعمل، راهنما یا اطلاعات سازمانی را سریع‌تر کند.

پشتیبانی از پژوهش

هوش مصنوعی می‌تواند در تحلیل داده، مرور متون، تولید فرضیه و آماده‌سازی داده پژوهشی کمک کند.

بهبود تجربه بیمار

کاهش زمان پاسخ به درخواست اداری، توضیح روشن‌تر فرایندها و دسترسی بهتر به اطلاعات می‌تواند تجربه بیمار را بهبود دهد.

محدودیت‌ها و خطرات هوش مصنوعی پزشکی

پاسخ نادرست یا ساختگی

مدل زبانی ممکن است منبع، عدد، دارو یا توضیحی تولید کند که در ورودی یا منابع معتبر وجود ندارد. روان‌بودن پاسخ نشانه درست‌بودن آن نیست.

سوگیری داده

اگر داده آموزشی نماینده گروه‌های مختلف نباشد، عملکرد مدل می‌تواند میان سن، جنس، قومیت، بیماری یا مراکز درمانی متفاوت باشد.

افت عملکرد در محیط جدید

مدلی که در یک بیمارستان یا روی یک دستگاه عملکرد خوبی دارد، ممکن است در مرکز دیگری نتیجه مشابهی نداشته باشد.

هشدار کاذب

حساسیت بسیار بالا می‌تواند تعداد زیادی هشدار نادرست ایجاد کند. این موضوع ممکن است باعث خستگی هشدار و کاهش اعتماد کارکنان شود.

اطمینان کاذب

یک مدل ممکن است جواب خود را با لحن مطمئن بیان کند، حتی زمانی که داده ناقص است. سیستم باید بتواند عدم قطعیت و محدودیت خود را نشان دهد.

اتکای بیش‌ازحد کاربر

اگر کاربر به‌مرور بررسی مستقل را کنار بگذارد، خطای مدل ممکن است بدون کشف وارد فرایند درمان شود.

تغییر مدل یا داده

به‌روزرسانی مدل، تغییر دستگاه، تغییر فرمت پرونده یا تغییر جمعیت می‌تواند عملکرد سیستم را عوض کند. هر تغییر مهم به ارزیابی مجدد نیاز دارد.

محرمانگی اطلاعات سلامت

پرونده پزشکی حاوی اطلاعات حساس است. قبل از ارسال داده به هر سرویس باید ضرورت، مجوز، قرارداد، محل پردازش، زمان نگهداری و امکان حذف اطلاعات بررسی شود.

آیا هوش مصنوعی می‌تواند جای پزشک را بگیرد؟

هوش مصنوعی می‌تواند بعضی وظایف محدود را سریع‌تر انجام دهد، اما پزشکی فقط تشخیص الگو نیست.

پزشک باید مجموعه‌ای از اطلاعات را در نظر بگیرد:

شرح حال
معاینه
سابقه بیمار
شرایط خانوادگی و اجتماعی
بیماری‌های هم‌زمان
داروها
ترجیحات بیمار
محدودیت‌های درمان
تغییر وضعیت در طول زمان
شواهد و دستورالعمل‌های بالینی

هوش مصنوعی می‌تواند یکی از ابزارهای این فرایند باشد، اما نباید بدون اعتبارسنجی و نظارت مناسب جایگزین قضاوت بالینی شود.

حتی یک ابزار تأییدشده نیز فقط باید برای «هدف استفاده» تعریف‌شده خود به کار رود.

تفاوت دستیار عمومی با ابزار پزشکی

ویژگی	دستیار عمومی	ابزار پزشکی تخصصی
هدف	تولید و تحلیل عمومی محتوا	کاربرد پزشکی تعریف‌شده
داده آموزشی	گسترده و عمومی	متناسب با کاربرد تخصصی
اعتبارسنجی بالینی	معمولاً ندارد	برای هدف مشخص ضروری است
خروجی	متن یا محتوای عمومی	اندازه‌گیری، هشدار یا نتیجه پزشکی
نظارت قانونی	بسته به کاربرد	ممکن است تجهیزات پزشکی محسوب شود
مسئولیت	پاسخ کمکی	تأثیر مستقیم‌تر بر مراقبت
استفاده مناسب	کار اداری و پیش‌نویس کنترل‌شده	طبق مجوز، دستورالعمل و شرایط تعریف‌شده

اتصال یک مدل زبانی به پرونده بیمار، آن را به‌طور خودکار به ابزار پزشکی معتبر تبدیل نمی‌کند.

چگونه دقت هوش مصنوعی پزشکی ارزیابی می‌شود؟

فقط عبارت «دقت ۹۵ درصد» اطلاعات کافی ارائه نمی‌کند. معیار باید با مسئله بالینی هماهنگ باشد.

حساسیت

حساسیت نشان می‌دهد مدل چه تعداد از موارد واقعاً مثبت را شناسایی کرده است.

ویژگی

ویژگی نشان می‌دهد مدل چه تعداد از موارد واقعاً منفی را درست رد کرده است.

ارزش اخباری مثبت

این معیار نشان می‌دهد چند درصد از هشدارهای مثبت واقعاً مثبت بوده‌اند. شیوع بیماری می‌تواند بر این مقدار اثر بگذارد.

ارزش اخباری منفی

این معیار نشان می‌دهد چند درصد از نتایج منفی واقعاً منفی بوده‌اند.

کالیبراسیون

اگر مدل احتمال ۲۰ درصد اعلام کند، آیا در عمل تقریباً ۲۰ درصد موارد مشابه به نتیجه موردنظر منتهی می‌شوند؟

عملکرد در زیرگروه‌ها

نتیجه باید جداگانه در گروه‌های مختلف سن، جنس، بیماری، مرکز، دستگاه و شرایط ثبت بررسی شود.

زمان و اثر عملیاتی

مدل ممکن است از نظر آماری مناسب باشد، اما در گردش کار واقعی باعث تأخیر یا هشدار بیش‌ازحد شود.

پیامد بالینی

مهم‌ترین سؤال این است که استفاده از مدل چه اثری بر کیفیت مراقبت، زمان اقدام، خطا و نتیجه بیمار دارد.

مشخصات یک پروژه مناسب برای شروع

اولین پروژه هوش مصنوعی یک مرکز درمانی بهتر است:

مسئله مشخصی داشته باشد.
خروجی آن قابل‌اندازه‌گیری باشد.
امکان بازبینی انسانی داشته باشد.
خطر مستقیم بالینی کمی ایجاد کند.
داده کافی و قابل‌اعتماد داشته باشد.
با گردش کار کارکنان هماهنگ باشد.
صرفه‌جویی زمانی یا ارزش مشخصی ایجاد کند.

نمونه‌های مناسب‌تر برای شروع:

طبقه‌بندی پیام‌های اداری
استخراج اطلاعات از فرم
جست‌وجوی دستورالعمل داخلی
خلاصه‌سازی جلسه
تهیه پیش‌نویس پاسخ غیر بالینی
بررسی کامل‌بودن اسناد
تولید گزارش مدیریتی

شروع مستقیم با تشخیص مستقل یا پیشنهاد درمان معمولاً به ارزیابی و کنترل بسیار بیشتری نیاز دارد.

مراحل پیاده‌سازی هوش مصنوعی در مرکز درمانی

مرحله اول: تعریف مسئله

به‌جای هدف کلی «استفاده از هوش مصنوعی»، یک مشکل واقعی را مشخص کنید:

کارکنان روزانه زمان زیادی برای دسته‌بندی درخواست‌های مربوط به بیمه، نوبت و مدارک صرف می‌کنند.

مرحله دوم: تعیین مرز کاربرد

دقیقاً مشخص کنید سامانه چه کاری انجام می‌دهد و چه کاری نباید انجام دهد.

برای مثال:

سامانه فقط درخواست‌های اداری را دسته‌بندی می‌کند و اجازه پاسخ به سؤال پزشکی، تشخیص یا توصیه درمانی ندارد.

مرحله سوم: آماده‌سازی داده

داده باید از نظر کیفیت، کامل‌بودن، نمایندگی گروه‌های مختلف و مجوز استفاده بررسی شود.

مرحله چهارم: تعیین معیار موفقیت

معیارها ممکن است شامل این موارد باشند:

دقت دسته‌بندی
زمان ذخیره‌شده
نرخ اصلاح کارکنان
تعداد موارد ارجاع‌شده
نرخ خطای بحرانی
رضایت کاربر
هزینه هر درخواست

مرحله پنجم: اجرای آزمایشی

سامانه ابتدا در حالت پیشنهادی اجرا شود؛ یعنی خروجی تولید کند اما تصمیم نهایی همچنان با کارکنان باشد.

مرحله ششم: ثبت بازخورد

باید مشخص شود چه خروجی‌هایی توسط کاربر پذیرفته، اصلاح یا رد شده‌اند.

مرحله هفتم: پایش مداوم

عملکرد مدل پس از استقرار نیز باید بررسی شود. کیفیت مدل ممکن است با تغییر داده، پرامپت یا فرایند کاهش پیدا کند.

معماری پیشنهادی سامانه هوش مصنوعی پزشکی

کاربر یا سامانه درمانی
          ↓
احراز هویت و کنترل دسترسی
          ↓
حذف یا حداقل‌سازی اطلاعات غیرضروری
          ↓
قواعد قطعی و اعتبارسنجی ورودی
          ↓
مدل هوش مصنوعی
          ↓
اعتبارسنجی ساختار خروجی
          ↓
بازبینی انسانی متناسب با ریسک
          ↓
ثبت نتیجه، نسخه مدل و رویدادها

قواعد قطعی مانند دوز مجاز، تداخل دارویی، سطح دسترسی یا شرایط ارجاع نباید فقط در پرامپت نوشته شوند. این قواعد باید در لایه نرم‌افزاری و منابع معتبر نیز کنترل شوند.

اتصال هوش مصنوعی به پرونده الکترونیک سلامت

برای اتصال سامانه‌ها، استانداردسازی داده اهمیت زیادی دارد. FHIR یکی از استانداردهای شناخته‌شده برای تبادل الکترونیکی اطلاعات سلامت است. این استاندارد منابعی برای نمایش مفاهیمی مانند بیمار، مشاهده، دارو و درخواست خدمت تعریف می‌کند. مستندات رسمی HL7 FHIR

در معماری واقعی باید مشخص شود:

چه داده‌ای خوانده می‌شود؟
چه کسی اجازه دسترسی دارد؟
خروجی کجا ذخیره می‌شود؟
نسخه مدل چگونه ثبت می‌شود؟
اصلاح انسانی چگونه نگهداری می‌شود؟
در صورت خطا چه اتفاقی می‌افتد؟
آیا مدل اجازه نوشتن مستقیم در پرونده را دارد؟
چگونه از تکرار یا تناقض جلوگیری می‌شود؟

در کاربردهای حساس بهتر است خروجی مدل ابتدا به‌عنوان پیش‌نویس یا پیشنهاد ذخیره شود.

نمونه کاربرد غیر بالینی با API درواره

در این مثال، پیام‌های ورودی یک مرکز درمانی فقط در دسته‌های اداری قرار می‌گیرند. اگر پیام دارای سؤال پزشکی باشد، مدل اجازه ارائه پاسخ درمانی ندارد و آن را برای ارجاع انسانی علامت‌گذاری می‌کند.

ابتدا کتابخانه‌ها را نصب کنید:

pip install openai pydantic

متغیرهای محیطی را تنظیم کنید:

export DARVAREH_API_KEY="YOUR_API_KEY"
export DARVAREH_MODEL="YOUR_MODEL_ID"

کد پایتون:

import os
from typing import Literal

from openai import OpenAI
from pydantic import BaseModel, ValidationError


client = OpenAI(
    api_key=os.environ["DARVAREH_API_KEY"],
    base_url="https://api.darvareh.ir/v1",
)

MODEL_ID = os.environ["DARVAREH_MODEL"]


class AdministrativeRequest(BaseModel):
    category: Literal[
        "appointment",
        "insurance",
        "billing",
        "medical_records",
        "cancellation",
        "clinical_question",
        "other",
    ]
    summary: str
    requires_human_review: bool
    response_draft: str | None


def classify_message(message: str) -> AdministrativeRequest:
    prompt = f"""
پیام زیر مربوط به یک مرکز درمانی است.

وظیفه:
- فقط نوع درخواست اداری را مشخص کن.
- اگر پیام شامل علائم، دارو، آزمایش، تشخیص، درمان یا سؤال پزشکی است،
  category را clinical_question قرار بده.
- برای clinical_question هیچ پاسخ پزشکی تولید نکن.
- در این حالت requires_human_review باید true و response_draft باید null باشد.
- برای پیام اداری، یک پاسخ کوتاه و غیر بالینی آماده کن.
- هیچ اطلاعاتی که در پیام نیست اضافه نکن.
- فقط JSON معتبر برگردان.

ساختار خروجی:
{{
  "category": "appointment | insurance | billing | medical_records |
               cancellation | clinical_question | other",
  "summary": "خلاصه کوتاه پیام",
  "requires_human_review": true,
  "response_draft": null
}}

پیام:
{message}
"""

    completion = client.chat.completions.create(
        model=MODEL_ID,
        temperature=0,
        messages=[
            {
                "role": "system",
                "content": (
                    "شما فقط درخواست‌های اداری یک مرکز درمانی را "
                    "دسته‌بندی می‌کنید و مجاز به ارائه تشخیص، تفسیر "
                    "آزمایش یا توصیه درمانی نیستید."
                ),
            },
            {
                "role": "user",
                "content": prompt,
            },
        ],
    )

    content = completion.choices[0].message.content

    if not content:
        raise ValueError("پاسخی از مدل دریافت نشد.")

    try:
        return AdministrativeRequest.model_validate_json(content)
    except ValidationError as error:
        raise ValueError(
            f"ساختار خروجی مدل معتبر نیست: {error}"
        ) from error


result = classify_message(
    "برای دریافت کپی پرونده و تصاویر رادیولوژی چه مدارکی لازم است؟"
)

print(result.model_dump_json(indent=2))

نمونه خروجی:

{
  "category": "medical_records",
  "summary": "کاربر درباره مدارک لازم برای دریافت کپی پرونده و تصاویر رادیولوژی سؤال دارد.",
  "requires_human_review": false,
  "response_draft": "برای دریافت اطلاعات دقیق درباره مدارک لازم، لطفاً با واحد مدارک پزشکی مرکز تماس بگیرید."
}

این نمونه عمداً به حوزه غیر بالینی محدود شده است. در نسخه عملی، پاسخ‌های مجاز باید از اطلاعات تأییدشده همان مرکز تهیه شوند و نرم‌افزار نیز مستقل از مدل، دسته و ساختار خروجی را بررسی کند.

درواره با ارائه API سازگار با OpenAI امکان اتصال نرم‌افزارهای ایرانی به مدل‌های مختلف را فراهم می‌کند. شناسه مدل را از فهرست فعلی مدل‌ها انتخاب و خروجی را روی داده‌های واقعی و غیرحساس ارزیابی کنید. مستندات API درواره

الزامات استفاده مسئولانه

نظارت انسانی

سطح نظارت باید با شدت پیامد خطا هماهنگ باشد. خلاصه‌سازی یک متن اداری با تشخیص یک وضعیت پزشکی ریسک یکسانی ندارد.

شفافیت

کاربر باید بداند چه زمانی خروجی توسط هوش مصنوعی تولید شده و مسئول بررسی نهایی چه کسی است.

قابلیت ردیابی

نسخه مدل، پرامپت، ورودی، خروجی، زمان درخواست و اصلاح انسانی باید متناسب با کاربرد ثبت شوند.

حداقل‌سازی داده

فقط داده‌ای را ارسال کنید که برای انجام وظیفه ضروری است. برای آزمایش اولیه از اطلاعات ساختگی یا ناشناس‌سازی‌شده استفاده کنید.

مدیریت عدم قطعیت

سامانه باید بتواند در ورودی نامشخص یا خارج از دامنه، به‌جای حدس‌زدن درخواست بازبینی انسانی کند.

ارزیابی زیرگروه‌ها

میانگین عملکرد ممکن است ضعف مدل در یک گروه خاص را پنهان کند. ارزیابی باید به تفکیک گروه‌ها و شرایط انجام شود.

مدیریت تغییر

تغییر مدل یا پرامپت باید مانند تغییر یک جزء نرم‌افزاری مهم آزمایش شود. نسخه جدید ممکن است بعضی نمونه‌ها را بهتر و برخی را بدتر پاسخ دهد.

چارچوب مدیریت ریسک هوش مصنوعی NIST نیز یک رویکرد ساختاریافته برای شناسایی، اندازه‌گیری، مدیریت و پایش ریسک‌های سامانه‌های هوش مصنوعی ارائه می‌کند. چارچوب مدیریت ریسک هوش مصنوعی NIST

معیارهای انتخاب سرویس هوش مصنوعی پزشکی

معیار	پرسش اصلی
هدف استفاده	سامانه دقیقاً برای چه کاری طراحی شده است؟
شواهد	عملکرد آن روی چه داده‌ای ارزیابی شده است؟
جمعیت هدف	آیا داده ارزیابی با کاربران واقعی شباهت دارد؟
خطا	مهم‌ترین خطاهای مدل کدام‌اند؟
عدم قطعیت	مدل چگونه ناتوانی خود را نشان می‌دهد؟
نظارت انسانی	چه کسی و در چه مرحله‌ای خروجی را بررسی می‌کند؟
یکپارچه‌سازی	آیا با گردش کار و سامانه‌های موجود سازگار است؟
ثبت رویداد	آیا نسخه، ورودی، خروجی و تغییرات ثبت می‌شوند؟
کنترل دسترسی	چه کسانی به داده و خروجی دسترسی دارند؟
پایش	افت کیفیت پس از استقرار چگونه تشخیص داده می‌شود؟
هزینه	هزینه هر پرونده یا فرایند چقدر است؟
مقررات	آیا مجوزهای لازم برای کاربرد موردنظر بررسی شده‌اند؟

اشتباهات رایج استفاده از هوش مصنوعی در پزشکی

شروع با مسئله بسیار پرخطر

اولین پروژه لازم نیست تشخیص یا درمان باشد. یک کاربرد اداری محدود می‌تواند ارزش و محدودیت فناوری را با خطر کمتر نشان دهد.

انتخاب مدل قبل از تعریف هدف

ابتدا باید وظیفه، خروجی مطلوب و معیار موفقیت مشخص شوند. سپس مدل‌ها روی همان مسئله مقایسه شوند.

استفاده از چت‌بات عمومی به‌عنوان پزشک

توانایی تولید پاسخ پزشکی به معنای داشتن اعتبار بالینی یا مجوز تشخیص نیست.

اعتماد به یک عدد کلی

دقت کلی ممکن است عملکرد ضعیف در موارد نادر یا گروه‌های خاص را پنهان کند.

قرار دادن قواعد مهم فقط در پرامپت

محدودیت‌های قطعی باید در کد، پایگاه دانش و گردش کار نیز اجرا شوند.

نداشتن مجموعه ارزیابی ثابت

بدون نمونه‌های ثابت نمی‌توان اثر تغییر مدل، پرامپت یا منبع داده را اندازه‌گیری کرد.

اتصال مستقیم به پرونده بدون کنترل

مدل نباید بدون اعتبارسنجی، بازبینی و ثبت رویداد، اطلاعات قطعی را مستقیماً وارد پرونده کند.

حذف متخصص از فرایند طراحی

پزشک، پرستار، متخصص داده، کاربر نهایی و مسئول حقوقی باید در تعریف و ارزیابی سامانه مشارکت داشته باشند.

آینده هوش مصنوعی در پزشکی

آینده این حوزه احتمالاً فقط به یک مدل بزرگ وابسته نخواهد بود. سامانه‌های پزشکی از ترکیب اجزای مختلف استفاده خواهند کرد:

مدل تصویری
مدل زبانی
داده ساختاریافته
موتور قواعد
پایگاه دانش معتبر
سیستم ثبت رویداد
رابط بازبینی انسانی
ابزار پایش عملکرد

مدل‌های چندوجهی نیز می‌توانند متن، تصویر و سیگنال‌های مختلف را کنار هم تحلیل کنند. این قابلیت ظرفیت زیادی دارد، اما افزایش تعداد انواع ورودی به معنای پیچیده‌ترشدن ارزیابی و مسئولیت نیز هست.

مسیر محتمل، جایگزینی کامل پزشک نیست؛ بلکه افزایش تعداد ابزارهای تخصصی برای وظایف محدود و قابل‌اندازه‌گیری است.

پرسش‌های متداول

هوش مصنوعی در پزشکی چیست؟

هوش مصنوعی در پزشکی به استفاده از مدل‌های محاسباتی برای تحلیل داده سلامت، پشتیبانی از تصمیم متخصص، خودکارسازی فرایندها و کمک به پژوهش گفته می‌شود.

کاربرد هوش مصنوعی در پزشکی چیست؟

کاربردهای آن شامل تحلیل تصاویر پزشکی، پشتیبانی از تصمیم بالینی، پیش‌بینی خطر، کشف دارو، خلاصه‌سازی پرونده، پایش بیمار و مدیریت فرایندهای بیمارستانی است.

آیا هوش مصنوعی می‌تواند بیماری را تشخیص دهد؟

بعضی ابزارهای تخصصی برای تشخیص یا غربالگری یک وضعیت مشخص طراحی و اعتبارسنجی می‌شوند. چت‌بات یا مدل عمومی نباید بدون تأیید و نظارت مناسب برای تشخیص استفاده شود.

آیا هوش مصنوعی جای پزشکان را می‌گیرد؟

هوش مصنوعی می‌تواند بخشی از وظایف را تسهیل کند، اما جایگزین کامل معاینه، قضاوت بالینی، ارتباط انسانی و مسئولیت حرفه‌ای پزشک نیست.

هوش مصنوعی در رادیولوژی چه کاربردی دارد؟

می‌تواند برای شناسایی نواحی مشکوک، اندازه‌گیری، قطعه‌بندی، اولویت‌بندی تصاویر و تهیه پیش‌نویس گزارش استفاده شود.

آیا می‌توان نتیجه آزمایش را با هوش مصنوعی تفسیر کرد؟

مدل عمومی ممکن است توضیحات آموزشی ارائه کند، اما نتیجه آزمایش باید با محدوده مرجع، علائم، سابقه، داروها و نظر پزشک بررسی شود. پاسخ مدل جایگزین ارزیابی پزشکی نیست.

مدل زبانی در بیمارستان چه کاربردی دارد؟

مدل زبانی می‌تواند در خلاصه‌سازی، استخراج اطلاعات، پاسخ اداری، جست‌وجوی دستورالعمل و تهیه پیش‌نویس به کارکنان کمک کند.

مهم‌ترین خطر هوش مصنوعی پزشکی چیست؟

خطرها شامل خروجی نادرست، سوگیری، افت عملکرد در محیط جدید، اتکای بیش‌ازحد، هشدار کاذب و استفاده خارج از هدف تعریف‌شده هستند.

چگونه یک پروژه هوش مصنوعی پزشکی را شروع کنیم؟

با یک مسئله محدود، قابل‌اندازه‌گیری و کم‌خطر شروع کنید. داده واقعی، معیار موفقیت، مرز کاربرد و مسئول بازبینی را قبل از انتخاب مدل تعیین کنید.

آیا API عمومی برای کاربرد پزشکی مناسب است؟

به نوع کاربرد، شرایط سرویس، داده ورودی، قرارداد، الزامات قانونی و کنترل‌های نرم‌افزاری بستگی دارد. برای اطلاعات حساس یا تصمیم بالینی، بررسی تخصصی فنی، حقوقی و پزشکی ضروری است.

جمع‌بندی

هوش مصنوعی در پزشکی می‌تواند به تحلیل داده، کاهش کارهای تکراری، جست‌وجوی دانش، تصویربرداری، پژوهش و مدیریت مراکز درمانی کمک کند. ارزش واقعی زمانی ایجاد می‌شود که مدل برای یک مسئله مشخص، در یک گردش کار کنترل‌شده و با معیارهای قابل‌اندازه‌گیری استفاده شود.

برای اجرای مسئولانه:

هدف استفاده را دقیق تعریف کنید.
کاربردهای اداری را از تصمیم‌های بالینی جدا کنید.
مدل را روی داده‌های متناسب با محیط واقعی ارزیابی کنید.
حساسیت، ویژگی، کالیبراسیون و عملکرد زیرگروه‌ها را بسنجید.
خروجی مدل را متناسب با ریسک بازبینی کنید.
قواعد قطعی را در نرم‌افزار نیز اجرا کنید.
داده‌های غیرضروری را ارسال نکنید.
نسخه مدل و اصلاحات انسانی را ثبت کنید.
عملکرد سیستم را پس از استقرار پایش کنید.
مجوزها و الزامات حوزه سلامت را پیش از استفاده عملی بررسی کنید.

کسب‌وکارها و توسعه‌دهندگان ایرانی می‌توانند برای کاربردهای غیر بالینی، پژوهشی و گردش‌کارهای کنترل‌شده از API درواره برای دسترسی یکپارچه به مدل‌های مختلف و مقایسه کیفیت، سرعت و هزینه آن‌ها استفاده کنند.

مقالات مرتبط

منابع

این مقاله صرفاً با هدف آموزش و اطلاع‌رسانی تهیه شده است. پیش از استفاده عملی، مستندات رسمی سرویس‌ها و صفحه سلب مسئولیت را مطالعه کنید.