رغم الترحيب غير العادي بالذكاء الاصطناعي باعتباره ثوريًا ومغيرًا للعالم، ومع كم حسناته الكثيرة لكنه لا يخلو من العيوب ،مع تزايد تطور الذكاء الاصطناعي وانتشاره، ترتفع الأصوات التي تحذر من المخاطر المحتملة للذكاء الاصطناعي.قال جيفري هينتون، المعروف باسم "عراب الذكاء الاصطناعي" لعمله التأسيسي في مجال التعلم الآلي والتعلم الآلي: "يمكن لهذه الأشياء أن تصبح أكثر ذكاءً منا ويمكن أن تقرر الاستيلاء عليها، وعلينا أن نقلق الآن بشأن كيفية منع حدوث ذلك". خوارزميات الشبكة العصبية. وفي عام 2023، ترك هينتون منصبه في جوجل حتى يتمكن من "الحديث عن مخاطر الذكاء الاصطناعي"، مشيرًا إلى أن جزءًا منه يندم حتى على العمل الذي بذله في حياته.

عالم الكمبيوتر الشهير ليس وحده في مخاوفه.وحث مؤسس شركتي تيسلا وسبيس إكس، إيلون ماسك، إلى جانب أكثر من 1000 من قادة التكنولوجيا الآخرين، في رسالة مفتوحة عام 2023 على وقف تجارب الذكاء الاصطناعي الكبيرة، مشيرًا إلى أن التكنولوجيا يمكن أن "تشكل مخاطر عميقة على المجتمع والإنسانية". وسواء كان الأمر يتعلق بالأتمتة المتزايدة لوظائف معينة، أو الخوارزميات المتحيزة على أساس الجنس والعنصرية، أو الأسلحة المستقلة التي تعمل دون إشراف بشري (على سبيل المثال لا الحصر)، فإن القلق يكثر على عدد من الجبهات. وما زلنا في المراحل المبكرة جدًا مما يستطيع الذكاء الاصطناعي فعله حقًا. ومن ابرز مخاطر الذكاء الاصطناعي:-

• فقدان الوظائف بسبب الأتمتة
• التزييف العميق
• انتهاكات الخصوصية
• التحيز الخوارزمي الناجم عن البيانات السيئة
• عدم المساواة الاجتماعية والاقتصادية
•تقلبات السوق
• أتمتة الأسلحة
• الذكاء الاصطناعي الواعي بذاته والذي لا يمكن السيطرة عليه

يجب على مبدعي الذكاء الاصطناعي أن يبحثوا عن رؤى وتجارب واهتمامات الناس من مختلف الأعراق والأجناس والثقافات والمجموعات الاجتماعية والاقتصادية، بالإضافة إلى أولئك الذين ينتمون إلى مجالات أخرى، مثل الاقتصاد والقانون والطب والفلسفة والتاريخ وعلم الاجتماع والاتصالات. والتفاعل بين الإنسان والحاسوب وعلم النفس ودراسات العلوم والتكنولوجيا (STS)."يعد تحقيق التوازن بين الابتكار في مجال التكنولوجيا الفائقة والتفكير الذي يتمحور حول الإنسان طريقة مثالية لإنتاج تكنولوجيا الذكاء الاصطناعي المسؤولة وضمان مستقبل الذكاء الاصطناعي الذي يظل مفعمًا بالأمل للجيل القادم. ينبغي أن تكون مخاطر الذكاء الاصطناعي دائما موضوعا للمناقشة، حتى يتمكن القادة من اكتشاف طرق لاستخدام التكنولوجيا لأغراض نبيلة،هناك أعتقاد بأنه يمكننا التحدث عن كل هذه المخاطر، وهي حقيقية للغاية . لكن الذكاء الاصطناعي سيكون أيضًا الأداة الأكثر أهمية في مجموعة أدواتنا لحل أكبر التحديات التي نواجهها.