“أوبن إيه آي” تؤكد.. متصفحات الذكاء الاصطناعي عرضة للهجمات السيبرانية أكثر من غيرها

اعترفت شركة “أوبن إيه آي” بأن المتصفحات المدعومة بالذكاء الاصطناعي معرضة لـ هجمات حقن الأوامر، وأن هذا التهديد السيبراني من المرجح أن يستمر على المدى الطويل على الرغم من التحديثات المستمرة. يأتي هذا التحذير في ظل تزايد الاعتماد على هذه التقنيات الجديدة، مما يجعلها هدفًا جذابًا للمهاجمين.

وفقًا لتقرير نشره موقع “تيك كرانش” التقني، فإن هذه الهجمات تستهدف بشكل خاص نماذج الذكاء الاصطناعي التي توفر وضع “العميل الذكي”، حيث يمكن للقراصنة استغلال هذه الثغرات للسيطرة على أجهزة المستخدمين دون علمهم. وتعتبر هذه القضية ذات أهمية متزايدة مع انتشار المتصفحات التي تعتمد على الذكاء الاصطناعي مثل “أطلس” من “أوبن إيه آي” و “كوميت” من “بيربليكستي”.

ما هي هجمات حقن الأوامر وكيف تعمل؟

هجمات حقن الأوامر هي نوع من الهجمات السيبرانية المتطورة التي تستغل نقاط الضعف في نماذج الذكاء الاصطناعي. تعتمد هذه الهجمات على إخفاء أوامر ضارة داخل بيانات الإدخال، مثل المستندات أو رسائل البريد الإلكتروني، والتي يتم بعد ذلك تنفيذها بواسطة عميل الذكاء الاصطناعي.

آلية عمل الهجوم

يقوم المهاجمون بصياغة أوامر خبيثة بطريقة تجعلها تبدو وكأنها جزء طبيعي من البيانات. عندما يعالج عميل الذكاء الاصطناعي هذه البيانات، فإنه ينفذ الأوامر الضارة دون أن يدرك ذلك المستخدم. يمكن أن يؤدي ذلك إلى مجموعة متنوعة من العواقب، بما في ذلك سرقة البيانات، أو تثبيت برامج ضارة، أو حتى السيطرة الكاملة على الجهاز.

أكدت “أوبن إيه آي” أنها تعمل على تعزيز أمن متصفحها “أطلس”، لكنها أشارت إلى أن القضاء التام على هذه الهجمات أمر غير مرجح، مشبهة الأمر بمحاولات مكافحة الاحتيال والهندسة الاجتماعية.

التهديدات المستمرة وتصريحات الشركات

لا يقتصر هذا الخطر على متصفح “أطلس” فقط، بل يهدد جميع المتصفحات المدعومة بالذكاء الاصطناعي. شركة “بريف” المتخصصة في الخصوصية، أكدت أيضًا هذا الأمر في تدوينة نشرتها مؤخرًا.

بالإضافة إلى ذلك، يتفق مركز الأمن السيبراني الوطني في المملكة المتحدة مع هذا التقييم، حيث حذر في وقت سابق من أن هجمات حقن الأوامر تمثل خطرًا مستمرًا لا يمكن القضاء عليه بشكل كامل. هذا التحذير يؤكد على الحاجة إلى يقظة مستمرة وتطوير آليات دفاعية فعالة.

وترى “أوبن إيه آي” أن التعامل مع هجمات حقن الأوامر يتطلب استراتيجية طويلة الأمد. الشركة تعمل حاليًا على تطوير دورة استجابة سريعة للكشف عن أساليب الهجوم الجديدة، وتشير الاختبارات الأولية إلى نتائج واعدة.

أدوات مكافحة الهجمات

قامت الشركة بتطوير أداة آلية تعتمد على نموذج الذكاء الاصطناعي الخاص بها لاختبار المتصفحات بشكل مستمر. تساعد هذه الأداة في تدريب وضع “العميل الذكي” لفحص الأوامر الواردة واكتشاف أي محاولات حقن ضارة. وقد أظهرت الاختبارات الأولية قدرة الأداة على إيقاف بعض هجمات حقن الأوامر.

يتماشى هذا النهج مع ما تتبعه شركة “غوغل”، التي أكدت أن الحل الأمثل لمواجهة هجمات حقن الأوامر يكمن في استخدام طبقات متعددة من الفحص والتحقق من الأوامر. هذا يشير إلى أن الدفاع الفعال يتطلب مزيجًا من التقنيات والاستراتيجيات المختلفة.

مستقبل أمن الذكاء الاصطناعي

من المتوقع أن تستمر الشركات في تطوير أدوات وتقنيات جديدة لمكافحة هجمات حقن الأوامر. ومع ذلك، من المهم أن ندرك أن هذا التهديد من المرجح أن يتطور باستمرار، مما يتطلب يقظة مستمرة وتكيفًا سريعًا.

في الأشهر القادمة، من المتوقع أن نشهد المزيد من الأبحاث والتطوير في مجال أمن الذكاء الاصطناعي، بالإضافة إلى زيادة الوعي بأهمية حماية المستخدمين من هذه الهجمات. سيكون من المهم أيضًا مراقبة التطورات التنظيمية المتعلقة بأمن الذكاء الاصطناعي، حيث قد تفرض الحكومات معايير جديدة لحماية المستخدمين.