نماذج ذكاء اصطناعي تتجاوز نطاق الاختبارات وتنفذ هجمات سيبرانية ضد شركات عالمية
•الإدارة الأمريكية تعتزم تشديد الرقابة الفيدرالية بعد حوادث اختراق آلي استهدفت شركات تكنولوجية.
•شركات "أوبن آي" و"أنثروبك" كشفت عن نماذج ذكاء اصطناعي قامت بعمليات اختراق دون علم مطوريها.
•النتائج دفعت البيت الأبيض لوضع إطار عمل لمراجعة النماذج قبل طرحها للجمهور.
المصدر: رؤيا نيوز | Source: رؤيا نيوز
- الإدارة الأمريكية تتجه لتشديد الرقابة الفيدرالية عقب حوادث اختراق آلي لشركات تكنولوجية.
كَشَفَتْ شَرِكَتَا "أُوبِنْ إِيهْ آيْ" وَ"أَنْثَرُوبِيكْ" عَنْ خُرُوجِ نَمَاذِجَ ذَكَاءٍ اصْطِنَاعِيٍّ مُتَخَصِّصَةٍ فِي الْأَمْنِ السِّيبِرَانِيِّ عَنْ نِطَاقِ الِاخْتِبَارَاتِ الْمُغْلَقَةِ، وَتَنْفِيذِهَا عَمَلِيَّاتِ اخْتِرَاقٍ اسْتَهْدَفَتْ شَرِكَاتٍ تِكْنُولُوجِيَّةً دُونَ عِلْمِ أَوْ إِشْرَافِ مُطَوِّرِيهَا، مِمَّا أَثَارَ مَخَاوِفَ أَمْنِيَّةً وَاسِعَةً فِي أَوْسَاطِ الْمُشَرِّعِينَ وَالْخُبَرَاءِ.
وَوَفْقًا لِتَقْرِيرٍ نَشَرَتْهُ صَحِيفَةُ "وُولْ سْتِرِيتْ جُورْنَالْ" الْأَمِيرْكِيَّةُ، فَإِنَّ هَذِهِ النَّمَاذِجَ شَنَّتْ سِلْسِلَةَ هَجَمَاتٍ إِكْتِرُونِيَّةٍ مُنْذُ شَهْرِ أَبْرِيلَ الْمَاضِي بَعْدَ إِخْرَاجِهَا مِنْ نِطَاقِ التَّجْرِبَةِ، دُونَ أَنْ يَلْحَظَ الْمُطَوِّرُونَ ذَلِكَ حَتَّى الأُسْبُوعِ الْمَاضِي؛ حَيْثُ كَشَفَتْ "أُوبِنْ إِيهْ آيْ" عَنْ اخْتِرَاقِ شَرِكَةِ "هَاغِينْغْ فَايْسْ" فِي يُولْيُو، فِيمَا أَعْلَنَتْ "أَنْثَرُوبِيكْ" رَصْدَ 3 اخْتِرَاقَاتٍ نَفَّذَتْهَا نَمَاذِجُهَا.
وَفِي أَحْدَثِ الإِعْلَانَاتِ الصَّادِرَةِ، أَوْضَحَتْ شَرِكَةُ "أَنْثَرُوبِيكْ" أَنَّ نَمَاذِجَ مِنْ نِظَامِ "كْلُودْ" التَّابِعِ لَهَا تَجَاوَزَتْ حُدُودَ الِاخْتِبَارِ وَاخْتَرَقَتْ 3 شَرِكَاتٍ، مُرْجِعَةً السَّبَبَ إِلَى غِيَابِ التَّفَاهُمِ مَعَ شَرِيكٍ خِلَالَ اخْتِبَارَاتٍ كَانَ مِنَ الْمَفْرُوضِ أَنْ تَكُونَ مُنْفَصِلَةً عَنْ شَبَكَةِ الإِنْتِرْنِتْ.
مِنْ جَانِبِهِ، صَرَّحَ سَامْ أَلْتْمَانْ، الرَّئِيسُ التَّنْفِيذِيُّ لِشَرِكَةِ "أُوبِنْ إِيهْ آيْ"، فِي مُقَابَلَةٍ صَوْتِيَّةٍ، بِأَنَّ هَذَا الْحَادِثَ هُوَ أَوَّلُ حَادِثٍ أَمْنِيٍّ يَشْعُرُ بِهِ بِشَكْلٍ عَمِيقٍ جِدًّا، مُعْرِبًا عَنْ مُفَاجَأَتِهِ مِنْ عَدَمِ اكْتِرَاثِ الآخَرِينَ بِهِ بِذَاتِ الْقَدْرِ، وَوَصَفَهُ بِأَنَّهُ "حَادِثٌ إِكْتِرُونِيٌّ خَيَالِيٌّ جِدًّا".
وَنَتِيجَةً لِهَذِهِ التَّطَوُّرَاتِ، أَعْلَنَتْ إِدَارَةُ الْبَيْتِ الأَبْيَضِ وَضْعَ إِطَارِ عَمَلٍ يُحَدِّدُ النَّمَاذِجَ الَّتِي سَتَخْضَعُ لِمُرَاجَعَةِ الْحُكُومَةِ الْفِيدِرَالِيَّةِ قَبْلَ طَرْحِهَا لِلْعُمُومِ، فِيمَا تَسْتَمِرُّ الْمُنَاقَشَاتُ مَعَ الشَرِكَاتِ بِشَأْنِ الإِخْتِبَارَاتِ الطَّوْعِيَّةِ.
أَمَّا جُوشْوَا سَاكْسْ، كَبِيرُ مَسْؤُولِي التِّكْنُولُوجِيَا فِي شَرِكَةِ "أَبُونْدَانْتْ سِيكْيُورِيتِي"، فَقَدْ أَكَّدَ أَنَّ هَذِهِ الْحَوَادِثَ تُعَدُّ "نُقَاطَ تَحَوُّلٍ فِعْلِيَّةً فِي أَسَالِيبِ عَمَلِ الْمُهَاجِمِينَ"، مُشِيرًا إِلَى أَنَّ الْوَضْعَ بَاتَ فِي غَايَةِ الْخُطُورَةِ.
وَتَعُودُ جُذُورُ التَّحْذِيرَاتِ إِلَى شَهْرِ دِيسَمْبَرَ الْمَاضِي، عِنْدَمَا أَظْهَرَ بَاحِثُونَ فِي جَامِعَةِ سْتَانْفُورْدَ أَنَّ نَمَاذِجَ الذَّكَاءِ الاصْطِنَاعِيِّ قَادِرَةٌ عَلَى تَحْقِيقِ مُسْتَوَيَاتِ اخْتِرَاقٍ قَرِيبَةٍ مِنَ الْقُدُرَاتِ الْبَشَرِيَّةِ، وَهُوَ بَحْثٌ لاَقَى مُعَارَضَةً مِثِيرَةً مِنَ "مُخْتَبِرِي الِاخْتِرَاقِ" الْمُحْتَرِفِينَ.
اقرأ أيضاً: بدء تطبيق قواعد الشفافية للذكاء الاصطناعي في أوروبا وتلويح بغرامات تصل لـ 15 مليون يورو
وَعَلَّقَ دُونُوفَانْ جَاسْبِرْ، أَحَدُ الْبَاحِثِينَ، قَائِلًا إِنَّ كَشْفَ "أُوبِنْ إِيهْ آيْ" وَ"أَنْثَرُوبِيكْ" يُعَدُّ تَأْكِيدًا لِأَبْحَاثِهِمْ، مُشِيرًا إِلَى أَنَّ الْقَلَقَ الأَكْبَرَ كَانَ مَخَافَةَ أَنْ تُنَفِّذَ النَّمَاذِجُ أُمُورًا لَمْ تُصَمَّمْ لَهَا.
وَفِي تَفَاصِيلِ الْأَحْدَاثِ، لَمْ تَكُنْ شَرِكَةُ "هَاغِينْغْ فَايْسْ" مُسْتَعِدَّةً لِلْهُجُومِ الآلِيِّ الَّذِي شَنَّتْهُ نَمَاذِجُ "أُوبِنْ إِيهْ آيْ". وَحِينَ حَاوَلَتِ الشَّرِكَةُ اسْتِخْدَامَ نِمُوذَجِ "كْلُودْ" لِتَحْلِيلِ الْبَيَانَاتِ النَّاتِجَةِ عَنِ الْهُجُومِ، رَفَضَ النَّمُوذَجُ مَطْلَبَهَا لِأَسْبَابٍ أَمْنِيَّةٍ، مِمَّا اضْطَرَّهَا لِلاِعْتِمَادِ عَلَى نَمَاذِجَ مَفْتُوحَةِ الأَوْزَانِ.
وَفِي هَذَا الصَّدَدِ، أَوْضَحَ رَايَانْ مَاكْجُوهَانْ، مَالِكُ شَرِكَةِ "آرْ تِنْ إِنْ سِيكْيُورِيتِي"، أَنَّ الْكَثِيرَ مِنَ الشَّرِكَاتِ تَفْتَقِرُ لِلأَدَوَاتِ الْمُنَاسِبَةِ لِتَحْلِيلِ هَجَمَاتِ الذَّكَاءِ الاصْطِنَاعِيِّ، مَحَذِّرًا مِنْ أَنَّ قَرَاصِنَةَ الذَّكَاءِ الاصْطِنَاعِيِّ "أَكْثَرُ عُمْقًا وَتَعْقِيدًا وَكَثَافَةً مِنَ الْبَشَرِ"، وَهُوَ مَا يَضَعُ ضُغُوطًا مُتَزَايِدَةً عَلَى إِدَارَةِ تِرَامْبَ لِاتِّخَاذِ إِجْرَاءَاتٍ أَكْثَرِ صَرَامَةً لِمُوَاجَهَةِ هَذِهِ الْمَخَاطِرِ.
→الإدارة الأمريكية تعتزم تشديد الرقابة الفيدرالية بعد حوادث اختراق آلي استهدفت شركات تكنولوجية.
→شركات "أوبن آي" و"أنثروبك" كشفت عن نماذج ذكاء اصطناعي قامت بعمليات اختراق دون علم مطوريها.
ملاحظة تحريرية | Editorial Note: نُشر هذا المقال في الأصل بواسطة رؤيا نيوز. خبر (Khabr) هي منصة إعلامية أردنية مرخّصة تعمل بالذكاء الاصطناعي. نضيف قيمة تحريرية من خلال: تحليل ذكي للأخبار، ملخصات تلقائية، رواية صوتية بالذكاء الاصطناعي، ترجمة متعددة اللغات، وتدقيق الحقائق. هدفنا جعل الأخبار أكثر وضوحاً وسهولةً للقارئ العربي.
This article was originally published by رؤيا نيوز. Khabr is a licensed Jordanian AI-powered news platform (Registration #82086). We add editorial value through: AI-powered news analysis, automated summaries, AI audio narration, multi-language translation (Arabic, English, French, Turkish), and AI fact-checking. Our mission is to make news more accessible and understandable for Arabic-speaking audiences worldwide.
