امنیت مرورگرهای هوش مصنوعی و Prompt Injection

نسل جدید مرورگرهای وب فراتر از نمایش صفحات عمل میکنند؛ این سیستم ها قادرند فرم ها را تکمیل کنند، میان سایت ها جابجا شوند و اقداماتی مستقل انجام دهند. با این حال امنیت مرورگرهای هوش مصنوعی و Prompt Injection به یکی از مهم ترین چالش های امنیتی در سیستم های مستقل تبدیل شده است. وقتی یک ایجنت محتوای صفحه وب را می خواند تا بر اساس آن تصمیم بگیرد، ممکن است دستورات پنهان و مخرب داخل متن را با پرامپت اصلی کاربر اشتباه بگیرد. در این مقاله به بررسی سازوکار تزریق پرامپت، تهدیدات استاندارد OWASP و روش های ایمن سازی کار با مرورگرهای ایجنتی میپردازیم.

مرورگر ایجنتی چه تفاوتی با مرورگر معمولی دارد؟

در مرورگرهای سنتی کلیک کردن و پر کردن فیلدها مستقیماً توسط انسان انجام می شود؛ اما در مرورگرهای ایجنتی تصمیم گیری درباره مراحل اجرایی به مدل هوش مصنوعی محول می گردد. به عنوان مثال وقتی میخواهید ارزان ترین قیمت یک کالا را بیابید، ایجنت به صورت خودکار فروشگاه ها را باز میکند و متن صفحات را می خواند. خطر از همین نقطه آغاز می شود: محتوای متنی صفحات اینترنتی لزوماً سالم و قابل اعتماد نیست.

Prompt Injection چیست و چگونه اجرا می شود؟

تزریق پرامپت (Prompt Injection) زمانی شکل میگیرد که یک نفوذگر دستوری مخرب را در دل متنی قرار دهد که قرار است توسط هوش مصنوعی پردازش شود. این متن میتواند در نظرات کاربران، مشخصات فنی محصول یا متون پنهان جاسازی شده باشد و از مدل بخواهد هدف قبلی را نادیده گرفته و دستوری دیگر را اجرا کند. استاندارد جهانی OWASP در سند LLM01 این حملات را از نوع غیرمستقیم می نامد که حتی نیازی به دیده شدن توسط چشم انسان ندارند و صرفاً پردازش آنها توسط مدل کفایت میکند.

چرا مهار کامل تزریق پرامپت دشوار است؟

در نرم افزارهای مرسوم مرز مشخصی میان کدهای اجرایی و داده های ورودی وجود دارد؛ اما در مدل های زبانی، هر دو بخش در قالب زبان طبیعی به سیستم وارد می شوند. مرکز ملی امنیت سایبری بریتانیا (NCSC) تاکید میکند مدل ها مرز تفکیک ناپذیری میان داده و دستور اعمال نمیکنند و نمیتوان این خطر را به طور ۱۰۰ درصدی ریشه کن کرد. شرکت Anthropic نیز در تحقیقات خود اعلام کرده حتی توانمندترین مدل ها مانند آنچه در معرفی مدل Claude Opus 5 بررسی کردیم در برابر حملات تطبیق پذیر دارای ضریب خطای حداقلی هستند.

سناریوهای خطرزا در مرورگرهای مبتنی بر عامل هوش مصنوعی

شدت آسیب پذیری به سطح دسترسی ها وابسته است؛ در صورتی که ایجنت به ایمیل یا حساب های کاری متصل باشد پیامدها می توانند بسیار سنگین تر شوند:

توسعه این سیستم ها در بخش های تجاری کاربرد بالایی دارد؛ همان طور که در مقاله عامل های هوش مصنوعی در کسب و کار دیدیم تفکیک وظایف اجرایی از تصمیم گیری های حساس کلید اصلی امنیت است.

قوانین امنیتی برای استفاده کم خطر از مرورگرهای هوش مصنوعی

• استفاده از پروفایل مرورگر تفکیک شده: ایجنت را در پروفایلی اجرا کنید که هیچ حساب بانکی یا ایمیل کاری حساسی در آن لاگین نباشد.

• عدم واگذاری اطلاعات پرداخت: ثبت سفارش و تایید پرداخت ها را به صورت دستی و انسانی انجام دهید.

• محدود کردن دسترسی ها (Least Privilege): تنها ابزارها و فولدرهایی را در اختیار سیستم بگذارید که برای همان تسک ضرورت دارند.

• بهینه سازی مصرف داده: با روش های مطرح شده در مقاله کاهش مصرف توکن در ChatGPT و Claude ارسال اطلاعات زائد را متوقف کنید تا پردازش ها متمرکز بمانند.

حفظ امنیت حساب برای کاربران داخل کشور

به دلیل محدودیت دسترسی در ایران، برخی کاربران به افزونه ها یا ابزارهای ناشناس واسطه روی می آورند که سشن ها و نشست های کاربری را در معرض خطر قرار میدهد. برای پیشگیری از نفوذ باید از اکانت های باثبات و ایمن بهره برد؛ تفاوت ساختاری این مدل ها در مطلب تفاوت اکانت اشتراکی و اختصاصی تشریح شده است.

جمع بندی

مرورگرهای هوش مصنوعی ابزارهایی کارآمد برای جستجو و خلاصه سازی وب هستند اما واگذاری عملیات مالی یا اطلاعات محرمانه سازمانی به آنها ریسک امنیتی بالایی به همراه دارد. با محدود کردن دامنه دسترسی ها و تفکیک محیط های کاری میتوان از مزایای این فناوری با حفظ کامل امنیت بهره برد.

سوالات متداول