الذكاء الاصطناعي والأمن القومي في إسرائيل 

ما الذي يمكن تعلمه من حالة أنظمة الأسلحة المستقلة؟
الفصل الثامن

 تعد أنظمة الأسلحة المستقلة أحد المجالات التي يدور فيها النقاش الأكثر شمولاً فيما يتعلق باستخدام الاستقلالية والذكاء الاصطناعي ، في مجال الأمن بشكل عام وفي ساحة المعركة بشكل خاص. كانت هذه الأنظمة في قلب النقاش العام حول حدودها لعدة سنوات ، ومنذ عام 2014 كانت أيضًا موضوع نقاش رسمي في الأمم المتحدة.قد تسمح لنا حالة الاختبار هذه بتوسيع نطاق التعلم حول بعض التحديات التي يفرضها تطوير الذكاء الاصطناعي.

 أحد تعريفات أنظمة الأسلحة المستقلة (AWS) هي الأنظمة القادرة على أداء أعمال مميتة دون مشاركة مباشرة من شخص في عملها ، نتيجة للتفاعل بين البيئة والنظام المحوسب. (ومع ذلك ، فإن الكيانات المختلفة لها تعريفات مختلفة أو أوسع أو أكثر عملية.) يتم استخدام أنظمة الأسلحة المستقلة في ساحة المعركة ، في تطبيقات مختلفة تتراوح من أنظمة الدفاع النشطة إلى أنظمة الحصول على الأهداف ومهاجمتها ، على منصات أرضية وجوية وبحرية.

 يتعلق أحد التحفظات الرئيسية حول استخدام هذه الأنظمة بالآثار الأخلاقية والقانونية لقدرة الأنظمة على تنفيذ عمل مميت بناءً على قرار بشأن حياة الإنسان ، دون مشاركة شخص آخر في هذه العملية. يجادل معارضو هذه الأنظمة بأن استخدامها يتعارض مع المعايير الأخلاقية ، لأنها تفتقر إلى التعاطف والحساسية الإنسانية.تشير الإدعاءات من الزاوية القانونية إلى أن القانون الإنساني الدولي يحظر إلحاق الأذى بالأهداف المدنية غير المشاركة في الأعمال العدائية والتي لا تعتبر ضرورية للكفاح المسلح ، فضلاً عن إلحاق ضرر غير متناسب بالأهداف العسكرية ، وأن هذه الأنظمة غالبًا ما تفتقر إلى "التمييز" العميق بين البشر.

 بالإضافة إلى مبدأ التمييز ، يفرض القانون الدولي مبدأ الرد المتناسب ، والذي ينص على أن الضرر الذي يلحق بالهدف يجب أن يتم وفقًا لتقدير مساهمته وأهميته في نجاح جهود العدو. يختلف هذا التقدير من لحظة إلى أخرى ويتأثر بخصائص المعركة وتطورها ، وربما حتى في العديد من الساحات في وقت واحد - وهو أمر تجد أنظمة الأسلحة المستقلة (اليوم) صعوبة في تقييمها في عملها ، خاصة بالنظر إلى حقيقة أنه لا توجد معايير قانونية لهذه المبادئ.

 إن صعوبة تطبيق هذه المبادئ في الأنظمة المستقلة هي مجرد مثال واحد على الصعوبات التي يفرضها القانون على تكامل الأنظمة الجديدة. تنبع صعوبة أخرى من مسألة المسؤولية القانونية ، والتي لا يمكن تنفيذها حاليًا عندما يكون الشخص غائبًا عن صانع القرار. ليس من الواضح من الذي سيحاكم في الحالات التي يؤدي فيها تشغيل هذه الأنظمة إلى عواقب غير مرغوب فيها تتعارض مع القانون الدولي.

 يوضح هذا المثال أنه كما يحدث اليوم في مجال أنظمة الأسلحة المستقلة ، فإن أنظمة الذكاء الاصطناعي في مختلف المجالات قد تتحدى الأنظمة القانونية والأخلاقية المقبولة وتجبر الإنسانية على تقديم إجابات عملية للأسئلة المعقدة.

 في الواقع ، يمكن الافتراض أنه في أي مكان قد يعرض فيه الاستقلالية للخطر حياة الإنسان أو يتخذ قرارات تتعلق بالحياة البشرية ، على سبيل المثال في الطريق وفي الطب ، قد تنشأ معضلات أخلاقية وقانونية. المعضلة الثانية المرتبطة بأنظمة الأسلحة المستقلة هي المعضلة التنظيمية ، والتي تشمل مشكلة تعريف التكنولوجيا والتحدي الذي ينطوي عليه الحد من تطويرها.

تم إجراء مناقشة هذه الأنظمة في الأمم المتحدة منذ عام 2014 وأكثر من ذلك منذ عام 2016 ، عندما شكلت الأمم المتحدة لجنة خبراء (GGE) لمناقشة القيود المحتملة لتطوير أو استخدام هذه الأنظمة ودمجها في ساحة المعركة. ومع ذلك ، اعتبارًا من عام 2020 ، لم تتمكن الدول الأعضاء في اللجنة حتى الآن من التوصل إلى اتفاق حتى بشأن تعريف أنظمة الأسلحة المستقلة ، ناهيك عن تقديم توصيات لمواجهة التحديات التي تفرضها التكنولوجيا.

 حتى إذا نجحت اللجنة في الاتفاق على تعريف ، فإن تقييد تطوير هذه التقنيات يتطلب تعاون جميع البلدان ، بما في ذلك روسيا والولايات المتحدة ، التي لا ترغب في تقييد التنمية. قد يكون هذا بسبب رغبة القوى العظمى في تشجيع النمو الاقتصادي في مجال الذكاء الاصطناعي ، مع الحفاظ على السوق المفتوحة ، وكذلك الحفاظ على تفوقها العسكري - حتى لو اختاروا في النهاية عدم استخدامه.

 لذلك ، تتخذ هذه البلدان نهجًا لتطبيق التنظيم على مجال معين فقط بعد تطوير التكنولوجيا ، وعدم تقييد التطوير مقدمًا. قد يكون من الصعب تنفيذ تقييد التطوير وحتى استخدام هذه الأنظمة بسبب الوتيرة العالية للتطوير من جهة ، وبطء وتيرة التقدم التنظيمي من جهة أخرى. لقد قيل إن تعزيز الاستجابات للمعضلات الأخلاقية التي تنطوي على الذكاء الاصطناعي والتقنيات المتقدمة سيفيد البشرية.

ومع ذلك ، فإن دراسة حالة أنظمة الأسلحة المستقلة تظهر أنه من المشكوك فيه ما إذا كان سيتم التوصل إلى اتفاق على الساحة السياسية والدولية بشأن إطار تنظيمي ، بسبب تضارب مصالح مختلف اللاعبين. علاوة على ذلك ، فإن التحديات المتوقعة مع ظهور الذكاء الاصطناعي على نطاق واسع ستتأثر بالقدرة على التغيير وتطور الأنظمة نتيجة لقدرتها على التعلم.

 على سبيل المثال ، من المتوقع أنه سيكون من الصعب تحديدها أو تقييدها في التدابير القانونية والتنظيمية الموجودة حاليًا. وهذا يشير إلى أن التطور التكنولوجي في مجال الذكاء الاصطناعي سيشكل تحديات أخلاقية وقانونية وتنظيمية لصانعي القرار. هذه التحديات يصعب التعامل معها على المستوى السياسي وما بعده ، على المستوى الدولي. وبالنظر إلى تعقيد القضية ، يمكن الافتراض أنها سترافق الساحة الدولية في المستقبل أيضًا ، وبالتالي من المستحسن أن تتصرف الدول وتتخذ موقفًا بشأن هذه القضية لضمان مصالحها.


الفصل التاسع

الذكاء الاصطناعي في "إسرائيل" 

 "إسرائيل" هي إحدى الدول الرائدة في المجال التكنولوجي. ينعكس هذا الوضع في كلا المجالين المدني والأمني. في السنوات الأخيرة ، أصبح الذكاء الاصطناعي أحد المجالات التي تتمتع فيها "إسرائيل" بموطئ قدم كبير ، وذلك بفضل الشركات الناشئة التي تنمو في البلاد ، فضلاً عن الهجرة إاليها وإنشاء مراكز تطوير الشركات العالمية في "إسرائيل".

 كما أن موضوع الذكاء الاصطناعي يكتسب حصة كبيرة في مجال الحلول الأمنية ، حيث أن هذه التطبيقات مدمجة في العديد من تقنيات الأمن وتعزز قدراتها. تمتلك "إسرائيل" عددًا من الخصائص الفريدة التي تؤثر على هذه الجوانب ، وسيصف هذا الفصل مجالات النقل ، بما في ذلك النظام البيئي الفريد والعلاقات المتبادلة بين مكوناته المختلفة.

القوة التكنولوجية في "إسرائيل"

تُعرف "إسرائيل" بقوتها التكنولوجية العظيمة وتُعرف أيضًا باسم " شركة ناشئة " ، نظرًا للعدد الكبير من الشركات الناشئة بالنسبة إلى عدد سكانها. إن التقنيات والقدرات في مجالات الاتصال التي تم تطويرها في نظام الدفاع بالاقتران مع الأوساط الأكاديمية أعطت "إسرائيل" القدرة على الاستفادة من تطور الإنترنت في ذلك الوقت. أسست العديد من الشركات الإسرائيلية التي تأسست في التسعينيات ، بما في ذلك Checkpoint و Amdocs و Nice ، منحت مكانة للدولة كقوة في مجالات الاتصالات والأمن وتخزين المعلومات .

 علاوة على ذلك ، توجد في "إسرائيل" ثقافة ريادة الأعمال التي أدت إلى نمو الشركات المبتكرة ، والتي تساهم بشكل كبير في النظام البيئي التكنولوجي الناجح. الفهم أن على "إسرائيل" تعويض النقص في الموارد الطبيعية والموارد البشرية المحدودة فيما يتعلق بأعدائها من خلال نوعية القوى العاملة والجودة التكنولوجية التي سادت منذ نشأتها ، ونُقشت في المفهوم الأمني لرئيس الوزراء الأول دافيد بن غوريون. على مر السنين كان هناك الكثير من النجاح في هذه المجالات. نمت الصادرات الدفاعية ، على سبيل المثال ، لجعل "إسرائيل" واحدة من أكبر مصدري الأسلحة في العالم ، وجعلت الصناعات الدفاعية "الإسرائيلية" قوة تكنولوجية وتجارية تعتمد عليها العديد من الدول وتهتم بالحصول عليها أو استخدامها.

 تنبع الميزة التنافسية لصناعة الدفاع الإسرائيلية في السوق الدولية من علاقتها الوثيقة بالجيش الإسرائيلي ، بسبب اعتماد الصناعات على الهيئات الأمنية كمسرعات لعمليات البحث والتطوير والتنفيذ (تحويلها إلى عمليات) ، مما يعزز المبيعات . والصناعات - من بين أمور أخرى بسبب نموذج الخدمة الإلزامي والخدمة الاحتياطية الفريدة "لإسرائيل" - تؤثر أيضًا على نقل المعرفة والتغذية المتبادلة لأولئك الذين يثقون في القوة التكنولوجية "لإسرائيل". نتيجة لذلك ، يختلف النظام البيئي الإسرائيلي عن نظيره في العديد من البلدان الأخرى.

النظام البيئي الإسرائيلي والذكاء الاصطناعي 

يتكون النظام البيئي الإسرائيلي من هيئات أمنية وأكاديمية وصناعية ويعمل بالتعاون في العمل بين أجزائه المختلفة ، عندما يكون هناك مرور للأفكار ورأس المال البشري بين أجزائه. على سبيل المثال ، تساهم الأكاديمية الإسرائيلية في التطورات من خلال الأبحاث المهمة التي نضجت في العقد الماضي ، حيث يحتاج مجال الذكاء الاصطناعي إلى مراكز بحث أكاديمية تمكن من إجراء أبحاث البنية التحتية ، والتي سيتم على أساسها تطوير أنظمة مختلفة .

 بالإضافة إلى ذلك ، تطورت مراكز الأبحاث في الصناعات الرائدة وفي شركات التكنولوجيا العملاقة ، وتعمل جنبًا إلى جنب مع الآلاف من الشركات الناشئة المبتكرة. في مجال الذكاء الاصطناعي ، كانت هناك زيادة كبيرة في الصناعة. بين عامي 2014 و 2018 ، كانت هناك زيادة بنسبة 120 في المائة في عدد الشركات العاملة في هذا المجال ، من 512 إلى 1150 ، بعضها طور التكنولوجيا الأساسية للذكاء الاصطناعي وبعض التقنيات المطورة التي تدعمها ، مثل المركبات ذاتية القيادة والأمن السيبراني.

صنفت شركة المحلل "جارتنر" "إسرائيل" كرائد عالمي في بائعي "الشركات الرائعة" (الساخنة والرائعة) في عام 2017 ، أكثرمن الصين والمملكة المتحدة. أصبح وجود هذه الشركات ممكنًا ، بفضل النظام البيئي الفريد الموجود في "إسرائيل". عام 2018 كانت هناك نقطة تحول عالية حتى الآن في جمع التمويل للشركات العاملة في مجال الذكاء الاصطناعي في "إسرائيل".

 تم جمع مبلغ 2.25 مليار دولار - دليل على النمو السريع لهذا السوق. كما حدث تطور مثير للإعجاب في الأجهزة الأمنية والعسكرية ، وخاصة لأغراض الاستخبارات - المساعدة في التعامل مع مصادر المعلومات المختلفة على نطاق واسع - والأنشطة العملياتية. إلى جانب معالجة البيانات والاستدلال ، فإن العديد من الأنظمة المستقلة مثل الطائرات المسيرة والروبوتات وأجهزة الاستشعار والمركبات في مراحل التطوير وحتى قيد الاستخدام ، وربما تكون في طليعة المعرفة والقدرة في العالم. 

في "إسرائيل" ، توجد فرص لربط سريع بين الأوساط الأكاديمية والصناعة المدنية والتجارية والهيئات الأمنية على المستوى التنظيمي والاجتماعي والمهني ، بفضل "الميزة الصغيرة".إلى جانب القرب المادي والابتكار والإبداع ، تتشارك الأوساط الأكاديمية والصناعية في "إسرائيل" في "شراكة مصير" تساعد في تسخيرها للتعاون الأمني مع الدولة.

أبعد من ذلك ، فإن "الميزة الصغيرة" لها عدة معانٍ أخرى. تساعد المسافة المادية القصيرة بين أجزاء من الدولة وتركيز العديد من شركات التكنولوجيا في مناطق ليست بعيدة عن الحكومة أو المراكز الأمنية على تعزيز التعاون. هذا مختلف تمامًا عما يحدث في الولايات المتحدة ، على سبيل المثال ، حيث توجد مسافة جغرافية كبيرة (وفجوة ساعات) بين واشنطن العاصمة ووادي السيليكون - مركز تطوير التكنولوجيا في منطقة خليج سان فرانسيسكو.

 علاوة على ذلك ، فإن الثقافة الإسرائيلية والعلاقة المباشرة بين المسؤولين ووالاقل شأن في العديد من الأماكن (بما في ذلك في وحدات معينة في الجيش) بالإضافة إلى الجو المنفتح وريادة الأعمال (بالنسبة إلى البلدان التي تكون فيها الثقافة هرمية وبيروقراطية) تساعد في حركة الأفكار والقدرة على تحقيقها. يبدو أنه في مجال الذكاء الاصطناعي ، لا تتمتع "إسرائيل" بمزايا خاصة ، في مجالات مثل البيانات أو الأجهزة الضخمة ، لكن قوة النظام البيئي الإسرائيلي تخلق ميزتها النسبية في هذا المجال. ومع ذلك ، فإن حجم "إسرائيل" ومواردها المحدودة يخلقان أيضًا تحديات ، وبالتالي من الضروري التأكيد على مزيج من المزايا النسبية المختلفة ، من أجل خلق مضاعفات القوة.

إن المزايا التكنولوجية الإضافية "لإسرائيل" ودمج القوات مع الذكاء الاصطناعي في "إسرائيل"

هي مجالات أخرى تتمتع فيها بميزة تكنولوجية نسبية ، وتشكل جزءًا كبيرًا مما يمنحها قوتها وجزءًا من نفوذها في الساحة الدولية. أحد هذه المجالات هو تطوير وإنتاج وتصدير الطائرات بدون طيار ، إلى جانب الخبرة التشغيلية الواسعة "لإسرائيل" في هذا المجال. في وقت مبكر من الستينيات والسبعينيات من القرن الماضي ، استخدمت "إسرائيل" الطائرات بدون طيار لأغراض التصوير الفوتوغرافي ، وفي الثمانينيات بدأت في استخدامها للخداع والجمع. في العقد الأول من القرن الحادي والعشرين ، كان معظم استخدام الطائرات بدون طيار لجمع المعلومات الاستخبارية في مواجهات غير متكافئة ، مع نقطة التحول في حرب لبنان الثانية.

هذه هي الحرب الأولى في التاريخ التي تم فيها تحليق ساعات طيران غير مأهولة أكثر من الطائرات المقاتلة ، حيث كانت الطائرات بدون طيار تحلق باستمرار فوق منطقة القتال طوال فترة النزاع. وتوضح نقطة التحول هذه قدرات "إسرائيل" وخبرتها في الميدان منذ عام 2006. منذ ذلك الحين ، واصلت "إسرائيل" الاستثمار في هذا المجال وأبرمت في السنوات الأخيرة صفقات كبيرة مع دول مثل الهند وألمانيا. علاوة على ذلك ، تعتبر "إسرائيل" أيضًا واحدة من الدول الرائدة في تطوير وإنتاج واستخدام أنواع أخرى من الأنظمة غير المأهولة. تتمتع بعض هذه الأنظمة بمستوى معين من الاستقلالية. وتشمل هذه المركبات استطلاع بدون طيار وأنظمة روبوتية أرضية وأسلحة متنقلة مثل Harop (و Harpy) ، والتي تعتبر في الساحة الدولية أنظمة أسلحة مستقلة.

 وبحسب تقارير من مصادر أجنبية ، تم شراء هذه الأنظمة الإسرائيلية من قبل العديد من دول العالم بما في ذلك الصين وألمانيا والهند وكوريا الجنوبية وتركيا وأوزبكستان وأذربيجان. بشكل عام ، كانت "إسرائيل" المصدر الأول عالميًا في مجال الطائرات بدون طيار بين عامي 2005 و 2013 ، حيث بلغت حصة السوق الإسرائيلية في الصادرات 4.62 مليار دولار.

جزء آخر من قوة "إسرائيل" في المجال ينبع من رغبة الدول في التعاون معها للاستفادة من المعرفة والخبرة الكبيرة التي تراكمت لديها على مر السنين في المجالات التكنولوجية. على سبيل المثال ، أعلنت "إسرائيل" واليابان عن بحث مشترك في مجال المسيرة العسكرية وأنظمة المراقبة غير المأهولة ، كما يمكن الإشارة إلى التعاون الإسرائيلي الأمريكي في مجال الحماية ضد الأنظمة الجوية غير المأهولة.

بالإضافة إلى إقامة العلاقات وتعزيزها ، تستخدم "إسرائيل" أيضًا ميزتها في هذا المجال لمراكمة الإنجازات الأمنية على الساحة الدولية. على سبيل المثال ، في الماضي ، في مقابل صفقة الطائرات بدون طيار ، تسببت "إسرائيل" في امتناع روسيا عن بيع نظام دفاع جوي من طراز S-300 لإيران. ومن المجالات الأخرى التي تتمتع فيها "إسرائيل" بميزة نسبية كبيرة وقيادة عالمية ، الأمن السيبراني والحرب الإلكترونية.

كجزء من عملية "التغذية المزدوجة" ، يتم تجنيد الطلاب الموهوبين في وحدات التكنولوجيا العسكرية الرائدة مثل 8200 ، حيث يتلقون تدريبًا وخبرة كبيرة ، وعند إطلاقهم يندمجون في الشركات الناشئة أو ينشئون مثل هذه الشركات بأنفسهم ، والعديد منهم في مجال الأمن السيبراني. ونتيجة للخدمة العسكرية التي توفر الخبرة المهنية فهم قادرون على التعامل مع القضايا المعقدة بشكل أكثر فاعلية وسرعة من خريجي الجامعات أو رواد الأعمال الشباب الذين يفتقرون إلى الخبرة العملية والتدريب العسكري.

 بالإضافة إلى ذلك ، تمتلك "إسرائيل" سلطة إلكترونية وطنية تشرف على منسق (مركز تنسيق أحداث أمن المعلومات) وتعمل بالتنسيق مع القطاع الخاص. هذا نموذج عالمي المستوى للتعامل المنسق مع القضايا والموارد في الميدان وإدارتها. في السنوات الأخيرة ، كرست الصناعات الدفاعية الإسرائيلية أيضًا العديد من الموارد والجهود في مجال الإنترنت ، من أجل الحفاظ على الميزة التنافسية الإسرائيلية وتجنب التبعية.

 وجدت دراسة استقصائية للشركات التي أجراها معهد صموئيل نيمان في مجالات الذكاء الاصطناعي وعلوم البيانات والروبوتات الذكية أن الأمن السيبراني في طليعة أنواع التقنيات التي تمتلك "إسرائيل" القدرة على قيادتها. توجد ميزة نسبية أخرى "لإسرائيل" في مجال صناعة المركبات المستقلة.تكمن القوة الإسرائيلية في تطوير وتطبيق التقنيات التكميلية للأنظمة الذاتية ، بما في ذلك أجهزة الاستشعار وأنظمة تخطيط السفر ، ومؤخراً سمحت الدولة بإجراء المزيد من التجارب على المركبات ذاتية القيادة في بيئة حقيقية. يعمل عدد من المشاريع في هذا المجال في "إسرائيل" وتشمل التجارب التكنولوجية للمركبات ذاتية القيادة التي أجرتها الشركات العملاقة جنبًا إلى جنب مع الشركات الناشئة الصغيرة ، فضلاً عن عدد من التجارب لخدمات النقل في المركبات ذاتية القيادة.

 تعمل شركات مثل جنرال موتورز ومرسيدس على تطوير تقنيات المركبات المستقلة في "إسرائيل" ، وفولكس واجن هي شركة تابعة لشركة Mobilai الإسرائيلية لتطوير خدمة سيارات الأجرة المستقلة. وفقًا لتقرير صادر عن شركة KPMG ، وهي شركة تقدم خدمات مالية واستشارات تنظيمية ، والتي فحصت استعداد الدول لدخول المركبات ذاتية القيادة ، تحتل "إسرائيل" المرتبة الأولى من بين 25 في مجالات التكنولوجيا وريادة الأعمال ، ويرجع ذلك أساسًا إلى الخبرة العسكرية لأصحابها.

 تتأثر المجالات التكنولوجية المذكورة هنا بشكل كبير بالتطورات في هذا المجال الذكاء الاصطناعي وقدرته على تحسين الإنجازات في هذه المجالات وضمان الحفاظ على الميزة الإسرائيلية النسبية فيها. علاوة على ذلك ، قد تشكل مجموعة القدرات في مختلف المجالات مضاعف قوة كبير "لإسرائيل". بالنظر إلى حجم "إسرائيل" ومحدودية قوتها البشرية ، فإن التأكيد على مجموعة من القضايا بغرض محاولة زيادة الميزة النسبية ليس فقط إمكانية مضاعفة القوة ولكن ضروري أيضًا.

 لذلك ، فإن تسخير النظام البيئي الإسرائيلي ، الذي يقدم بالفعل قدرات عالية الجودة في مجال الذكاء الاصطناعي ، استنادًا إلى المزايا التكنولوجية الحالية ، قد يضمن "لإسرائيل" قوة تكنولوجية أمنية طويلة المدى.