چالش‌های انسانی توسعه هوش مصنوعی

چند سال پیش برای اغلب سازمان‌ها ایده فرآیند جمع‌‌‌آوری یک میلیون بلوک داده در روز غیرقابل درک بود. امروزه اما به لطف ظهور روش‌‌‌های قدرتمند جمع‌‌‌آوری داده و گزینه‌‌‌های ذخیره‌‌‌سازی مقرون‌‌‌به‌‌‌صرفه، ما در داده‌‌‌ها غرق شده‌‌‌ایم. به این ترتیب غربال کردن مفاهیم از این سیل داده و سپس تبدیل آنها به اقداماتی که فرآیندها و سازمان‌ها را تغییر می‌‌‌دهند، به چالشی جدی تبدیل شده است.

درست همین‌‌‌جاست که هوش مصنوعی می‌تواند کمک کند. صرف‌نظر از توانایی بی‌‌‌سابقه هوش مصنوعی در تجزیه و تحلیل و شناسایی الگوها در داده‌‌‌ها، نوید تغییرات اساسی در نحوه عملکرد سازمان‌ها مانند افزایش تماس‌‌‌های منجر به فروش، کاهش ضایعات در کارخانه‌‌‌ها و نجات جان افراد در صنایع پرخطر را می‌‌‌دهد؛ اما برای دستیابی به تحول واقعی در زمینه هوش مصنوعی بیش از درک این فناوری، نیاز به درک انسان‌‌‌ها داریم.

دانشمندان علوم شناختی به این نتیجه رسیده‌‌‌اند که فرآیند تحول هوش مصنوعی در سه مرحله انجام می‌‌‌شود: جمع‌‌‌آوری داده‌‌‌ها، یافتن مفاهیم و در نهایت اقدام. در این میان، دو مرحله آخر مستلزم درک عمیق چیزی است که رفتار انسان را هدایت می‌‌‌کند؛ یعنی ترس‌‌‌ها، انگیزه‌‌‌ها، سوگیری‌‌‌ها، محدودیت‌‌‌های ظرفیت شناختی و سایر فرآیندهای مغزی که باعث می‌‌‌شود افراد به روش خاصی عمل کنند. هوش مصنوعی می‌تواند الگوها را در داده‌‌‌ها شناسایی کند، اما برای رسیدن به مفاهیم از الگوها و سپس طراحی اقدامات موثر تغییر سازمانی، درک انسان‌‌‌ها ضروری است.

کمک به نجات جان افراد

برای درک مراحل تحول هوش مصنوعی بهتر است مثالی در دنیای واقعی را بررسی کنیم. دکتر تئودور گرانچاروف، استاد جراحی در دانشگاه استنفورد، می‌‌‌خواست از هوش مصنوعی به عنوان ابزاری برای تحلیل و به طور امیدوارانه‌‌‌ای کاهش خطاهای جراحی در اتاق عمل استفاده کند. اگرچه برآوردها بسیار متفاوت و گسترده هستند، اما مطالعات نشان می‌‌‌دهد که سالانه بین ۴۴ تا ۲۵۰‌هزار بیمار در ایالات‌متحده به دلیل خطاهای پزشکی جان خود را از دست می‌‌‌دهند. مطالعات تخمین زده‌‌‌اند که حدود یک‌‌‌چهارم این مرگ‌‌‌ها به دلیل اشتباهات قابل پیشگیری در اتاق عمل رخ می‌‌‌دهند.

گرانچاروف به مدت ۲۰ سال مشغول توسعه یک «جعبه سیاه اتاق عمل» بوده است تا بتواند به کمک آن هر چیزی را که در طول یک عمل جراحی اتفاق می‌‌‌افتد، تجزیه و تحلیل کند. او از داده‌‌‌های پرواز یا ضبط‌‌‌‌‌‌کننده‌‌‌های «جعبه سیاه» مورد استفاده در هواپیما الهام گرفت. از سال ۱۹۵۷ و زمانی که هیات هوانوردی غیرنظامی ایالات‌متحده ثبت اطلاعات پرواز را در تمام هواپیماهای مسافربری اجباری کرد، این ابزار به روشن کردن علل سوانح و بلایای هوایی کمک کرده است.

ضبط‌‌‌کننده‌‌‌های جعبه سیاه با تغییر در آموزش خلبانی، تجهیزات خطوط هوایی و استانداردهای نظارتی، توانسته‌‌‌اند جان افراد زیادی را نجات بدهند. جعبه سیاه اتاق عمل با هدف مشابهی در ذهن ایجاد شد؛ یعنی برای شناسایی و سپس انجام اقدامات مقتضی در راستای کاهش خطاهای قابل پیشگیری. در سال‌‌‌های اخیر پیشرفت‌‌‌ها در حوزه هوش مصنوعی به گروه تحت نظارت گرانچاروف این امکان را داده‌‌‌اند که بر معضلات قبلی در فرآیند تجزیه و تحلیل داده‌‌‌ها غلبه کنند. مفاهیمی که آنها به دست آوردند، عملکرد فردی و تیمی را به طور قابل‌‌‌توجهی افزایش داد و همچنین هماهنگی و انطباق با رویه‌‌‌های عملیاتی استاندارد را هم افزایش داد. گرانچاروف معتقد است که این تغییرات باعث کاهش عوارض جراحی، مرگ‌ومیر و هزینه‌‌‌ها در اتاق‌‌‌های عملی می‌‌‌شود که از این جعبه سیاه استفاده می‌‌‌کردند.

مراحل یک تحول

اولین مرحله در فرآیند تحول هوش مصنوعی جمع‌‌‌‌‌‌آوری داده است که امروزه ساده‌‌‌ترین مرحله هم به حساب می‌‌‌آید. تا حالا گرانچاروف پلتفرم ابداعی خودش را در حدود ۲۰ اتاق عمل در سراسر ایالات‌متحده قرار داده است. جعبه سیاه اتاق عمل از طریق انواع حسگرها می‌تواند روزانه تا یک میلیون بلوک داده در هر سایتی را ثبت کند.

این بلوک‌‌‌ها شامل داده‌‌‌های سمعی و بصری روش‌‌‌های جراحی، سوابق الکترونیکی سلامت و ورودی دستگاه‌‌‌های جراحی بود. این داده‌‌‌ها همچنین شامل قرائت‌‌‌های بیومتریک تیم جراحی، مانند تغییرات ضربان قلب آنها به عنوان بازتابی از سطوح استرس‌‌‌شان و فعالیت مغزی اندازه‌‌‌گیری شده توسط‌EEGهای بی‌‌‌سیم بود. این داده‌‌‌ها حاوی اطلاعات زیادی بودند، اما گرانچاروف می‌‌‌گوید: «داده‌‌‌ها بی‌‌‌فایده هستند اگر نتوانیم آنها را به اطلاعات کاربردی تبدیل کنیم که پزشکان بتوانند از آنها برای تغییر رفتار خود استفاده کنند.»

در واقع شناسایی الگوها در داده‌‌‌ها همان جایی است که هوش مصنوعی بسیار مفید واقع می‌‌‌شود. گرانچاروف در این زمینه خاطرنشان می‌‌‌کند: «غیرممکن است که مغز انسان به طور دائم بتواند

تمام این بلوک‌‌‌های داده را رصد کند و به دنبال الگوها و تداعی‌‌‌های پنهان بگردد. اینجاست که روش‌‌‌های هوش مصنوعی مدرن واقعا می‌توانند به ما قدرت بدهند تا داده‌‌‌ها را به مفاهیم و به عمل تبدیل کنیم.»

اما درست همین‌‌‌جاست که قدرت درک انسان‌‌‌ها هم اهمیت پیدا می‌‌‌کند. هوش مصنوعی می‌تواند تصادفات یا حوادث را با رویدادهای خاصی مرتبط کند؛ اما بدون فرضیه موثر، همه اینها فقط جار و جنجال بی‌‌‌فایده است. برای مثال، تیم گرانچاروف این فرضیه را مطرح کرد که استرس می‌تواند با تاثیر بر پردازش شناختی و تصمیم‌‌‌گیری جراح، بر عملکرد او تاثیر بگذارد. بنابراین آنها این آزمایش را برای جمع‌‌‌آوری داده‌‌‌های فیزیولوژیک از جراحان طراحی کردند و هوش مصنوعی توانست این داده‌‌‌ها را با حوادث اتاق عمل مرتبط کند و به این نتیجه برسد که جراحان پراسترس ۶۶‌درصد احتمال بیشتری برای خطا کردن داشتند.

گرانچاروف همچنین متوجه شد که وقایعی مانند باز شدن در، زنگ تلفن یا صحبت شخصی در مورد بازی فوتبال دیشب -‌به عبارت دیگر حواس‌‌‌پرتی‌‌‌ها- می‌توانند دلیل اصلی فاجعه‌‌‌بارترین خطاها باشند. یافتن این بینش و رسیدن به آن مستلزم درک ظرفیت محدود شناختی مغز انسان بود. استخراج سایر بینش‌‌‌ها مستلزم درک پویایی تیم است.

محققان تیم‌‌‌هایی را بررسی کردند که ارتباط ضعیفی داشتند و ایمنی روانی نداشتند. این تیم‌‌‌ها صرف‌نظر از سطح مهارت فنی جراح، نتایج بدتری داشتند. گرانچاروف می‌‌‌گوید: «یکی از خطرناک‌‌‌ترین اتاق‌‌‌های عمل، اتاق‌‌‌های بی‌‌‌صداست که در آن هیچ‌‌‌کس صحبت یا ارتباط برقرار نمی‌‌‌کند.» اگرچه ممکن است فرض شود که مهارت جراح مهم‌ترین عامل تعیین‌‌‌کننده موفقیت است، اما ویژگی‌‌‌های غیرفنی یک تیم جراحی مانند نحوه همکاری آنها، یا اینکه آیا برای ابراز نگرانی‌‌‌ها احساس امنیت می‌‌‌کردند، بیشترین تاثیر را بر نتایج به دست آمده برای بیمار داشت.

هنگامی که هوش مصنوعی به افشای بزرگ‌ترین منابع خطاهای اتاق عمل کمک کند، بیمارستان‌‌‌ها و مراکز جراحی حداقل در تئوری می‌توانند شروع به معرفی روش‌‌‌های جدید برای جلوگیری از چنین خطاهایی کنند. اما ابتدا آنها باید می‌‌‌فهمیدند که تغییر رفتار انسانی چگونه اتفاق می‌‌‌افتد. به این ترتیب تغییر موفقیت‌‌‌آمیز فرهنگ کل یک سازمان مستلزم ایجاد اولویت‌‌‌ها، عادات و سیستم‌هاست.

اولویت‌‌‌ها وظایف یا فعالیت‌‌‌هایی هستند که برای یک سازمان مهم‌ترین آنها تلقی می‌‌‌شوند و انتقال این اولویت‌‌‌ها ضروری است تا همه بدانند زمان و توجه خود را کجا متمرکز کنند. در این مورد، اولویت روشن است: بهبود نتایج برای بیمار با اجتناب از خطاهای قابل پیشگیری. عادت‌ها رفتارهایی هستند که به طور خودکار و با اندک تفکر آگاهانه انجام می‌‌‌شوند. به عنوان مثال، صحبت کردن درباره نگرانی به جای سکوت می‌تواند با آموزش و تمرین به یک عادت تبدیل شود. در نهایت سیستم‌ها، رویه‌‌‌ها یا اصولی هستند که انجام رفتار مورد نظر را آسان‌‌‌تر می‌‌‌کنند. به عنوان مثال، برای کاهش حواس‌‌‌پرتی و حفظ ظرفیت شناختی مغز، بیمارستان‌‌‌ها می‌توانند قانون جدیدی را وضع کنند که بحث‌‌‌های غیرمرتبط را در طول مراحل حیاتی یک عمل جراحی محدود می‌‌‌کند.

در کنار اولویت‌‌‌ها، عادات و سیستم‌ها، تحول هوش مصنوعی مستلزم آن است که همه افراد در سازمان از یک طرز فکر رشد استقبال و باور کنند که شکست‌‌‌ها در واقع فرصت‌‌‌هایی برای بهتر شدن هستند، نه تهدیدی برای موقعیت. گرانچاروف به یاد می‌‌‌آورد که در ابتدا بسیاری از تیم‌‌‌های جراحی نسبت به جعبه سیاه اتاق عمل احتیاط می‌‌‌کردند، زیرا نگران بودند که این جعبه سیاه آنها را بد جلوه دهد یا آنها را در برابر دادخواهی آسیب‌‌‌پذیر کند؛ اما به تدریج نگرش آنها تغییر کرد.

او می‌‌‌گوید: «وقتی متوجه می‌‌‌شویم که بدون معیارهای عینی عملکردمان نمی‌توانیم پیشرفت کنیم، واقعا دنیای ذهنیت رشد و بهبود مستمر را باز می‌‌‌کنیم.» او ادعا می‌‌‌کند که بیمارستان‌‌‌هایی که از این انتقال استقبال کردند، نه تنها از نظر کیفیت و ایمنی، بلکه در کارآیی و بهره‌‌‌وری نیز به دستاوردهای عظیمی دست یافته‌‌‌اند.

وابستگی فناوری به انسان

در واقع هیچ بخش و صنعتی به اندازه بهداشت و درمان از نظر زندگی و جان انسان در خطر نیست. با این حال، هوش مصنوعی صرف‌نظر از این بخش می‌تواند داده‌‌‌ها را تجزیه و تحلیل کند و ما را به بینش‌‌‌های ارزشمندی هدایت کند که اقدامات را از بهبود یک فرآیند خاص گرفته تا تغییر کل فرهنگ هدایت می‌‌‌کنند. برای مثال، در یک جلسه دستگاه‌‌‌های مجهز به هوش مصنوعی می‌توانند داده‌‌‌های صوتی و بصری را جمع‌‌‌آوری کنند (به شیوه‌‌‌ای ناشناس و اخلاقی) و با کمک بینش‌‌‌های انسانی، الگوهایی را شناسایی کنند که ممکن است واضح نباشند: آیا کسی علائم اضطراب یا استرس بیش از حد را نشان می‌‌‌دهد؟ آیا مردم اغلب در یک تماس ویدئویی به پایین نگاه می‌‌‌کنند و احتمالا دستگاه‌‌‌ها حواسشان را پرت می‌‌‌کنند؟

به این ترتیب، هوش مصنوعی می‌تواند به رهبران تیم‌‌‌ها و سازمان‌ها کمک کند تا ابتدا موانعی را شناسایی کنند که بر سر راه جلسات سازنده قرار می‌‌‌گیرند، سپس راه‌‌‌هایی برای رفع آنها پیدا کنند؛ مانند اقداماتی برای افزایش ایمنی روانی یا کاهش حواس‌‌‌پرتی. چه در اتاق عمل و چه در اتاق هیات‌مدیره، هوش مصنوعی می‌تواند به باز کردن پتانسیل در سازمان شما کمک کند. اما از قضا و برخلاف تصور عمومی، هرچه فناوری نقش محوری بیشتری در زندگی ما ایفا کند، بیشتر باید نحوه تعامل انسان‌‌‌ها با جهان پیرامون‌‌‌شان را درک کنیم.

منبع: دنیای اقتصاد