از تشدید حملات سایبری تا شکل‌گیری عامل‌های هوشمند

به گزارش خبرنگار پول و تجارت؛ در نشست تخصصی «هوش مصنوعی در صنعت پرداخت»، مدیران و کارشناسان حوزه زیرساخت، امنیت و هوش مصنوعی به بررسی فرصت‌ها و مخاطرات استفاده از این فناوری در صنعت پرداخت پرداختند؛ نشستی که محور مشترک بخش مهمی از مباحث آن، ضرورت استفاده از هوش مصنوعی در کنار حفظ نظارت و مسئولیت انسانی بود. از افزایش سرعت و پیچیدگی حملات سایبری گرفته تا توسعه عامل‌های هوشمند، حاکمیت داده، تحلیل زیرساخت‌های پرداخت و مدیریت بحران، مهم‌ترین موضوعات مطرح‌شده در این پنل بودند.

هوش مصنوعی هم در دست مهاجم است و هم مدافع

محمد دماوندی، مدیر کل امنیت و ریسک شرکت به‌پرداخت ملت، با تمرکز بر تأثیر هوش مصنوعی بر فضای تهدیدات سایبری در صنعت مالی گفت استفاده مهاجمان از این فناوری، سرعت و پیچیدگی حملات را به شکل قابل توجهی افزایش داده است.

او با استناد به آمار‌هایی که در این نشست ارائه کرد، گفت ۵۶ درصد حملات در صنعت مالی جهان به نوعی با هوش مصنوعی ارتباط دارند و زمان مورد نیاز مهاجمان برای نفوذ نیز به حدود ۲۹ دقیقه کاهش پیدا کرده است.

به گفته دماوندی، این حملات با هدف سرقت اطلاعات انجام می‌شوند و بخش قابل توجهی از حملات جدید نیز به‌سادگی توسط ابزار‌های متداول امنیتی شناسایی نمی‌شوند؛ موضوعی که مقابله با تهدیدات جدید را دشوارتر کرده است.

او تأکید کرد همان‌طور که مهاجمان با استفاده از هوش مصنوعی در حال کوتاه کردن زمان اجرای حمله هستند، تیم‌های امنیتی نیز باید از این فناوری برای سخت‌تر کردن مسیر نفوذ، افزایش سرعت شناسایی تهدید‌ها و کاهش زمان واکنش استفاده کنند.

دماوندی همچنین با اشاره به هزینه اقتصادی حملات سایبری گفت متوسط خسارت ناشی از این حملات برای سازمان‌ها در سطح جهان حدود ۵ میلیون دلار و در صنعت مالی حدود ۶ میلیون دلار برآورد می‌شود و این رقم نسبت به سال گذشته افزایش داشته است.

با این حال، به گفته او، هوش مصنوعی تنها در اختیار مهاجمان نیست. در سمت دفاع نیز این فناوری می‌تواند با تحلیل لاگ‌ها، سوابق رخداد‌ها و داده‌های تله‌متری، اطلاعات گسترده‌ای را جمع‌آوری و تحلیل کرده و تصویری دقیق‌تر از وضعیت تهدید‌های سازمان در اختیار تیم‌های امنیتی قرار دهد.

دماوندی در عین حال بر ضرورت باقی ماندن انسان در حلقه تصمیم‌گیری تأکید کرد و گفت اگر واکنش به تهدید به‌طور کامل به یک ابزار سپرده شود، این پرسش مطرح می‌شود که مسئولیت تصمیم و پیامد‌های آن بر عهده چه کسی خواهد بود.

او در جمع‌بندی این بخش تأکید کرد که هم مهاجم و هم مدافع در حال استفاده از هوش مصنوعی هستند و مسئله، مقابله با خود فناوری نیست؛ بلکه باید انسان و هوش مصنوعی در کنار یکدیگر توسعه پیدا کنند.

تصمیم نهایی همچنان باید در اختیار انسان باشد

محمد طیبی، مدیرکل زیرساخت و شبکه شرکت به‌پرداخت ملت نیز یکی از مهم‌ترین مخاطرات استفاده سازمانی از هوش مصنوعی را «توهم مدل‌ها» عنوان کرد و گفت نحوه طراحی پرامپت و کیفیت اطلاعاتی که در اختیار مدل قرار می‌گیرد، تأثیر مستقیمی بر دقت پاسخ دارد.

او گفت یک پرامپت ناقص یا مبهم می‌تواند موجب برداشت نادرست مدل از مسئله و تولید پاسخ‌هایی شود که برای استفاده سازمانی قابل اتکا نیستند. از همین رو، بهره‌گیری از مستندات معتبر، منابع صحیح و داده‌های قابل اعتماد اهمیت زیادی دارد.

طیبی درباره تجربه استفاده از هوش مصنوعی در شرکت به‌پرداخت نیز توضیح داد که این فناوری در حال حاضر بیشتر در حوزه تحلیل داده مورد استفاده قرار می‌گیرد و اجازه اجرای مستقیم عملیات به آن داده نشده است.

به گفته او، خروجی هوش مصنوعی می‌تواند به تحلیل و تصمیم‌سازی کمک کند، اما دستور یا تصمیم نهایی همچنان باید توسط نیروی انسانی صادر شود.

او همچنین به ظرفیت هوش مصنوعی در داده‌کاوی و جست‌وجوی عمیق اشاره کرد و گفت عملکرد این فناوری صرفاً مشابه یک موتور جست‌وجوی ساده نیست، بلکه می‌تواند حجم قابل توجهی از داده را تحلیل و از ترکیب آنها پاسخ‌های ساختاریافته‌تری تولید کند.

نسل جدید هوش مصنوعی باید از «پاسخ‌دهنده» به «عامل» تبدیل شود

سعید علی‌اکبری، کارشناس ارشد هوش تجاری به‌پرداخت ملت، با تمرکز بر مفهوم عامل‌های هوشمند گفت نسل جدید هوش مصنوعی نباید صرفاً به پاسخ دادن به سؤالات محدود شود، بلکه باید بتواند در یک محیط واقعی اقدام کند، نتیجه اقدامات خود را بررسی کند، خطا را تشخیص دهد و در صورت نیاز مسیرش را اصلاح کند.

او سه فناوری ReAct، RAG و QLoRA را از ابزار‌های مهم برای توسعه چنین سامانه‌هایی دانست. به گفته او، ReAct امکان ترکیب استدلال و اقدام را فراهم می‌کند، RAG مدل را به منابع و پایگاه‌های داده معتبر و به‌روز متصل می‌کند و QLoRA نیز امکان شخصی‌سازی مدل‌های زبانی را با هزینه سخت‌افزاری کمتر فراهم می‌سازد.

علی‌اکبری تأکید کرد در حوزه‌های حساسی مانند بانکداری، امنیت داده‌ها، جلوگیری از توهم مدل و حفظ نظارت انسانی سه الزام اساسی توسعه عامل‌های هوشمند هستند.

به گفته او، هدف باید ایجاد یک عامل هوشمند امن، قابل اعتماد و متصل به داده‌های واقعی باشد که بتواند بخشی از وظایف را به‌صورت نیمه‌خودکار انجام دهد، اما تصمیم‌های حساس همچنان تحت نظارت کارشناسان و مدیران باقی بمانند.

هوش مصنوعی می‌تواند پیش از وقوع اختلال هشدار دهد

محمدحسین حسینی، کارشناس ارشد توسعه نرم‌افزار سیستم‌های نواورانه به‌پرداخت ملت نیز در این نشست سامانه‌ای هوشمند برای پایش و مدیریت زیرساخت‌های پرداخت معرفی کرد که هدف آن کاهش خطا و افزایش سرعت واکنش در شرایط بحرانی است.

به گفته او، این سامانه با بهره‌گیری از یک لایه نظارتی مستقل، تحلیل آماری داده‌ها، هوش مصنوعی و مدل‌های زبانی می‌تواند ناهنجاری‌های موجود در زیرساخت را شناسایی کرده و اپراتور‌ها را در رسیدن سریع‌تر به علت ریشه‌ای مشکلات یاری دهد.

حسینی یادگیری مستمر از داده‌های تاریخی، تشخیص ناهنجاری متناسب با شرایط زمانی و ترافیکی و پیش‌بینی برخی مشکلات پیش از وقوع را از قابلیت‌های این سامانه عنوان کرد.

او همچنین به امکان تبدیل داده‌های خام عملیاتی به شاخص‌های قابل استفاده برای مدل‌های یادگیری ماشین اشاره کرد و گفت هدف نهایی، کاهش فشار تصمیم‌گیری بر تیم‌های فنی و افزایش سرعت و دقت مدیریت بحران در سامانه‌های پرداخت است.

انسان باید رهبر ارکستر هوش مصنوعی باشد

داریوش نجارزاده، کارشناس ارشد حوزه devOps شرکت به‌پرداخت ملت، با اشاره به شتاب تحولات فناوری گفت نقش انسان در عصر هوش مصنوعی در حال تغییر است و ابزار‌های جدید به سطحی از تکامل رسیده‌اند که برای انجام بسیاری از وظایف، دیگر نیازی به هدایت قدم‌به‌قدم ندارند.

او تأکید کرد ترس از هوش مصنوعی نباید مانع همراه شدن با این فناوری شود، چرا که سازمان‌ها و افرادی که این تحول را دنبال نکنند، با خطر عقب ماندن از روند فناوری مواجه خواهند شد.

نجارزاده معتقد است هنوز در ابتدای مسیر توسعه هوش مصنوعی قرار داریم و باید به این فناوری فرصت داد تا نقش خود را در بهبود زندگی و فعالیت‌های سازمانی نشان دهد.

او در پاسخ به این پرسش که با توسعه هوش مصنوعی کدام مهارت‌های انسانی اهمیت بیشتری پیدا می‌کنند، گفت نقش انسان به سمت مدیریت، ایجاد بینش، نظارت و هدایت هوش مصنوعی حرکت خواهد کرد.

به تعبیر او، در آینده «انسان باید نقش رهبر ارکستر را بر عهده بگیرد»؛ یعنی به جای انجام مستقیم همه فعالیت‌ها، مجموعه‌ای از ابزار‌ها و عامل‌های هوشمند را هدایت و کنترل کند.

پردازش داده‌های حساس باید تا حد امکان در داخل سازمان انجام شود

امیر محسنی، مشاور هوش مصنوعی به‌پرداخت ملت نیز بر اهمیت ایجاد زیرساخت‌های داخلی برای استفاده از مدل‌های متن‌باز هوش مصنوعی تأکید کرد.

به گفته او، استقرار مدل‌ها در محیط داخلی سازمان می‌تواند کنترل بیشتری بر داده‌ها، پردازش‌ها و عملکرد سامانه در اختیار سازمان قرار دهد و امکان ثبت و بررسی لاگ‌ها و رصد خطا‌ها را نیز فراهم کند.

محسنی با اشاره به موضوع حاکمیت داده گفت ورود هوش مصنوعی به معنای پایان یافتن مسئله Data Governance نیست، بلکه ممکن است شکل ریسک‌ها را تغییر دهد و بخشی از ریسک‌های پنهان به صورت ریسک‌های عملیاتی نمایان شوند.

او تأکید کرد در استفاده از هوش مصنوعی باید مشخص باشد مدیریت نرم‌افزار، سخت‌افزار و فرایند پردازش اطلاعات در اختیار چه کسی قرار دارد.

به گفته محسنی، به‌ویژه در سازمان‌هایی که با داده‌های حساس سروکار دارند، پردازش اطلاعات باید تا حد امکان در زیرساخت داخلی انجام شود؛ چرا که وابستگی کامل به سرویس‌های بیرونی می‌تواند به معنای انتقال بخشی از داده‌ها، پردازش‌ها و حتی فرایند تحلیل سازمان به خارج از مجموعه باشد.

انسان، حلقه مشترک تمام بحث‌ها

مجموع مباحث مطرح‌شده در این نشست نشان داد که با وجود تفاوت دیدگاه‌ها در حوزه امنیت، زیرساخت، تحلیل داده و توسعه عامل‌های هوشمند، یک نقطه اشتراک جدی میان سخنرانان وجود داشت: هوش مصنوعی در صنعت پرداخت قرار نیست صرفاً جایگزین انسان شود، بلکه نقش انسان را از اجرا به سمت هدایت، نظارت، تصمیم‌گیری و پذیرش مسئولیت تغییر خواهد داد.

در این نگاه، هوش مصنوعی می‌تواند حملات را پیچیده‌تر کند، اما در عین حال ابزار دفاع باشد؛ می‌تواند ناهنجاری‌های زیرساخت را سریع‌تر شناسایی کند، اما تصمیم نهایی را به انسان بسپارد؛ و می‌تواند از یک مدل پاسخ‌گو به عاملی تبدیل شود که بخشی از فرایند‌ها را انجام می‌دهد، به شرط آنکه امنیت داده، حاکمیت اطلاعات و مسئولیت انسانی در طراحی آن لحاظ شده باشد.

در نتیجه، چالش اصلی صنعت پرداخت نه انتخاب میان «انسان یا هوش مصنوعی»، بلکه طراحی مدلی برای همکاری امن، قابل کنترل و مسئولانه میان انسان و هوش مصنوعی است.