AI Security Engineer بدوام كامل في عمّان

وصف الوظيفة

نحن نبحث عن مهندس أمان ذكاء اصطناعي ذو خبرة للانضمام إلى الفريق. سيختص المرشح المثالي في تأمين التطبيقات المدعومة بالذكاء الاصطناعي، ونماذج اللغة الكبيرة، ووكلاء الذكاء الاصطناعي، وخطوط أنابيب Retrieval-Augmented Generation (RAG)، وتدفقات المحث، والمنصات المؤسسية للذكاء الاصطناعي. يركز هذا الدور على تحديد وتخفيف مخاطر الأمان الخاصة بالذكاء الاصطناعي مثل حقن المحث، والتجاوزات، وتسرب البيانات، واستخدام الأدوات غير الآمن، والمخرجات غير الآمنة للنموذج، وسوء استخدام أنظمة الذكاء الاصطناعي. سيعمل مهندس أمان الذكاء الاصطناعي عن كثب مع فرق الهندسة الخاصة بالذكاء الاصطناعي والمنصة والسحابة والأمن لتصميم حلول آمنة للذكاء الاصطناعي، وتحديد ضوابط الحوكمة، وضمان الاستخدام المسؤول والمتوافق للأنظمة القائمة على الذكاء الاصطناعي.

المهام والمسؤوليات

• تصميم وتنفيذ ضوابط أمان لتطبيقات الذكاء الاصطناعي وتكاملات النماذج اللغوية الكبيرة (LLM) ووكلاء الذكاء الاصطناعي وأنظمة قائمة على RAG.
• تحديد وتخفيف التهديدات الخاصة بالذكاء الاصطناعي مثل حقن المحث، والتجاوزات، وتسريب البيانات، وسوء استخدام النموذج، ومخاطر الهلوسة، والاستخدام غير الآمن للأدوات/استدعاءات الدوال.
• تأمين تدفقات المحث والمطالب النظامية وتعليمات الوكلاء وخطوط الاسترجاع وطبقات تنظيم الذكاء الاصطناعي.
• تقييم المخاطر في واجهات برمجة التطبيقات للنماذج اللغوية الكبيرة (LLMs)، وقواعد بيانات المتجهات، والتضمينات، وقواعد المعرفة، وتكاملات الأدوات الخارجية.
• ضمان التعامل الآمن مع البيانات الحساسة عبر تطبيقات الذكاء الاصطناعي، بما في ذلك مدخلات المستخدم والسياق المسترجع والمطالبات ومخرجات النموذج.
• إجراء نمذجة التهديد للحلول المبنية على الذكاء الاصطناعي، ووكلاء الذكاء الاصطناعي، والمساعدين المؤسسيين المعتمدين على الذكاء الاصطناعي.
• تعريف وتطبيق حوكمة أمان الذكاء الاصطناعي، وضوابط الذكاء الاصطناعي المسؤول، وأفضل ممارسات الامتثال.
• إجراء تقييمات أمان، واختبارات الفريق الأحمر، وتدقيق أنظمة الذكاء الاصطناعي.
• مراقبة التهديدات الأمنية الناشئة المتعلقة بالذكاء الاصطناعي وتقديم توصيات لاستراتيجيات تخفيف استباقية.
• التعاون مع فرق الهندسة لتأمين واجهات برمجة تطبيقات الذكاء الاصطناعي، ونشر السحابة، والتحكم في الوصول، ومنصات الذكاء الاصطناعي في الإنتاج.

المتطلبات

• الخبرة العملية في فهم تطبيقات الذكاء الاصطناعي، ونماذج اللغة الكبيرة (LLMs)، ونظام RAG، والتضمينات، وبحث المتجهات، وهندسة المحث، ووكلاء الذكاء الاصطناعي
• خبرة في تحديد وتخفيف مخاطر أمان نماذج اللغة الكبيرة (LLMs) مثل حقن المحث، والتجاوزات، وتسريب البيانات، والتعامل غير الآمن مع مخرجات النماذج
• فهم بنية تطبيقات الذكاء الاصطناعي الآمنة، بما في ذلك المصادقة، والتخويل، والتسجيل، والمراقبة، وحماية البيانات
• معرفة بمنصات السحابة مثل Azure وAWS أو GCP، خاصة خدمات الذكاء الاصطناعي ونشرها القائم على واجهات API
• الإلمام بأدوات الأمان مثل SAST وDAST وSIEM وفحص الثغرات والمراقبة الأمنية
• فهم خصوصية البيانات والامتثال وممارسات الذكاء الاصطناعي المسؤولة
• خبرة في أطر أمان الذكاء الاصطناعي، أو إدارة مخاطر الذكاء الاصطناعي، أو حوكمة الذكاء الاصطناعي المسؤولة
• تعرض لاختبار Red Teaming لـ LLM، وتوجيهات الذكاء الاصطناعي، وسلامة المحتوى، وفلترة المطالب، والتحقق من المخرجات
• خبرة في تأمين خطوط RAG، ووكلاء الذكاء الاصطناعي، وأنظمة استدعاء الأدوات، ومنصات الدردشة المؤسسية
• معرفة OWASP Top 10 لتطبيقات LLM أو إرشادات أمان الذكاء الاصطناعي المماثلة
• شهادات ذات صلة مثل CISSP وCEH وSecurity+، أو شهادات أمان سحابي
• خبرة في قطاع الاتصالات، التكنولوجيا المالية، المؤسسات، أو بيئات منظمة
• قوة في حل المشكلات والتفكير التحليلي
• القدرة على العمل عبر وظائف مع فرق الذكاء الاصطناعي والأمن والسحابة والمنتجات
• نهج استباقي لتحديد مخاطر أمان الذكاء الاصطناعي قبل تأثير الإنتاج
• مهارات تواصل فعالة لشرح المخاطر وخطط التخفيف إلى أصحاب المصلحة التقنيين وغير التقنيين

المؤهلات

• شهادات ذات صلة مثل CISSP، CEH، Security+، أو شهادات أمان سحابي

المهارات المطلوبة

• قوة في حل المشكلات والتفكير التحليلي
• القدرة على العمل عبر فرق وظيفية مع فرق الذكاء الاصطناعي والأمن والسحابة والمنتجات
• مهارات تواصل فعالة لشرح المخاطر وخطط التخفيف إلى أصحاب المصلحة التقنيين وغير التقنيين
• نهج استباقي لتحديد مخاطر أمان الذكاء الاصطناعي قبل الإنتاج

التعليقات

لا توجد تعليقات منشورة حتى الآن.