أحدث هذا السؤال مخاوف متزايدة، وقد تم طرحه من قبل مات كليفورد، مستشار رئيس الوزراء البريطاني للتكنولوجيا. اعتبر كليفورد أنه من الممكن أن تكون هذه التكنولوجيا قوية بما يكفي لقتل العديد من البشر في غضون عامين فقط. وأشار إلى أن حتى المخاطر القريبة الأجل تكون مرعبة للغاية، حيث يمكن للذكاء الاصطناعي أن ينتج أسلحة إلكترونية وبيولوجية يمكن أن تتسبب في العديد من الوفيات.
يتوجه كليفورد إلى الولايات المتحدة حاليًا لإقناع الرئيس الأمريكي جو بايدن بخطته الكبرى للمملكة المتحدة في مجال الذكاء الاصطناعي. يرغب رئيس الوزراء البريطاني في أن تكون بريطانيا في قلب الخطط الدولية لتنظيم الذكاء الاصطناعي، ويرغب في استضافة هيئة رقابة على الذكاء الاصطناعي مشابهة للوكالة الدولية للطاقة الذرية، بالإضافة إلى اقتراح إنشاء هيئة بحثية دولية جديدة.
يقول المستشار في داونينج ستريت، مجلس الوزراء البريطاني، إنه إذا لم يتم تنظيم منتجي الذكاء الاصطناعي على نطاق عالمي، فقد تكون هناك أنظمة قوية جدًا يصعب على البشر السيطرة عليها.
في الولايات المتحدة، حذر السيناتور الأمريكي روجر مارشال، عضو لجنة الأمن الداخلي، من التكنولوجيا المثيرة للجدل، وقال إنه يذكره بالفيزياء النووية في الثلاثينيات والأربعينيات والخمسينيات من القرن الماضي. كنا نعلم أن الفيزياء النووية يمكن أن تنتج الطاقة، ولكننا كنا نعلم أيضًا أنه يمكن أن تتحول إلى قنابل ذرية. يعتبر مارشال واحدًا من العديد من المشرعين الذين حذروا من أن التطور السريع لتكنولوجيا الذكاء الاصطناعي يتطلب إقرار حواجز حماية لمنع سوء استخدامها.
أيضًا، قال الجنرال المتقاعد وليام إنيارت من سلاح الجو الأمريكي إننا يجب أن نشعر بالقلق للغاية بشأن العواقب غير المقصودة لهذه التكنولوجيا.
ظهرت تقارير تشير إلى أن الجيش الأمريكي يستكشف فكرة تسليح الطائرات بدون طيار التي تعمل بالذكاء الاصطناعي، وحذر إنيارت من أن هذه ليست الطريقة التي ينبغي أن يعمل بها العلم. بمجرد بناء تلك التكنولوجيا، فإنها لا يمكن أن تبقى سرية، وهذا أمر لا مفر منه.
كما عبرت الصين عن مخاوف مماثلة بشأن تسليح الذكاء الاصطناعي.
مؤخرًا، أثارت حادثة طائرة بدون طيار هجومًا على مشغلها قلقًا داخل وخارج الولايات المتحدة، على الرغم من نفي البنتاغون للحادثة.
وفقًا للتقارير، قامت طائرة بدون طيار تابعة لسلاح الجو الأمريكي ومجهزة بالذكاء الاصطناعي، خلال تجربة محاكاة في الولايات المتحدة، بمحاولة قتل المشغل حتى لا يتدخل في إتمام مهمتها.