الذكاء الاصطناعي يراقب

كيف قادت خوارزميات AI Monitoring إلى اعتقال طفل في ولاية فلوريدا؟

بقلم: د. أحمد النجار 

بصفتي أستاذ الأمن السيبراني والذكاء الاصطناعي.. نرصد لكم واقعتين مؤسفتين.. وتعامل الأمريكان معهما وخصوصًا أن أبطال الواقعتين لا زالا طفلين تحت السن القانوني.

اسمحوا لي أن نُعَمِق الجوانب التقنية لأنظمة المراقبة بالذكاء الاصطناعي (AI Monitoring Systems) مع تفسير هندسي وتحليلي لخوارزميات Gaggle وآليات Data Pipeline وThreat Classification Models.

 المراقبة الذكية في الفصول الدراسية..

كيف رصد الذكاء الاصطناعي نية القتل قبل وقوعها؟

في تطوّر يسلّط الضوء على العلاقة المعقدة بين الذكاء الاصطناعي (Artificial Intelligence) والسلوك البشري، شهدت ولاية فلوريدا (Florida) الأمريكية واقعة غير مسبوقة، حيث تم اعتقال طفل يبلغ من العمر 13 عامًا بعد أن طرح عبر منصة ChatGPT سؤالًا نصّه:

“How can I kill my classmate in the classroom?”

تم التقاط هذه المحادثة بواسطة نظام مراقبة يعتمد على الذكاء الاصطناعي، يُعرف باسم Gaggle AI Monitoring System، والذي يقوم بمسح وتحليل سلوك الطلاب عبر الإنترنت باستخدام خوارزميات متقدمة للكشف عن المخاطر السلوكية.

البنية التقنية لأنظمة AI Monitoring

تعتمد أنظمة المراقبة الذكية على معمارية End-to-End AI Pipeline تتكون من المراحل التالية:

 1. Data Collection Layer

تُجمع البيانات من مصادر متعددة داخل بيئة المدرسة، مثل:

 • حسابات البريد الإلكتروني المدرسي (Google Workspace for Education)

 • تطبيقات التعاون مثل Google Docs, Microsoft Teams, ChatGPT sessions

 • شبكات التواصل الاجتماعي المتصلة بالبريد الرسمي أو الأجهزة المدرسية.

 2. Preprocessing Layer

يتم تنظيف النصوص من الرموز غير الهامة (Tokenization, Stop-word Removal) وتحويلها إلى تمثيلات رقمية عبر Word Embeddings مثل BERT, Word2Vec, أو GPT Tokenizers.

 3. Feature Extraction Layer

هنا تُستخدم تقنيات Natural Language Processing (NLP) لاستخراج الخصائص الدلالية من النصوص، مثل:

 • Sentiment Polarity (سلبية/إيجابية/تهديدية)

 • Intent Recognition (تحليل النية)

 • Emotion Classification (غضب، خوف، انتقام، استغاثة…)

 4. Risk Detection Engine

هو القلب التشغيلي للنظام، ويعمل باستخدام نموذج تعلم عميق (Deep Neural Network) مخصص لتحليل المخاطر.

النموذج مُدرَّب على ملايين الأمثلة المصنفة ضمن مستويات:

 • Low Risk: عبارات غير خطيرة لكنها تُتابع.

 • Medium Risk: نية محتملة تحتاج مراجعة بشرية.

 • High Risk: نية مؤكدة للعنف أو الانتحار.

 5. Alerting & Escalation Module

عندما يُكتشف خطررر ضمن الفئة العالية (High-Risk Threat)، يتم توليد Automated Alert Ticket وإرساله إلى لوحة تحكم المدرسة (Admin Dashboard) مع ملخص دلالي للنص وسياقه.

هذه اللوحة متصلة بنظام Incident Response Integration API الذي يُخطر الجهات الأمنية المحلية بشكل آلي خلال ثوانٍ.

خوارزميات التحليل بين الفهم النصي والسياق الاجتماعي

تعتمد Gaggle وغيرها من أنظمة المراقبة على مجموعة خوارزميات تحليل سياقي (Context-Aware Analysis) لتجنب “الإنذارات الكاذبة” (False Positives).

فعلى سبيل المثال، إذا كتب الطالب جملة مثل:

“The story says the boy kiiiilled his classmate.”

فلن يُعد هذا تهديدًا، لأن النظام يحدد أنه اقتباس لغوي (Quoted Speech) وليس نية فعلية.

أما إذا كانت الجملة:

“I want to kill my classmate tomorrow.”

فإن التحليل السياقي (Contextual Semantic Analysis) سيكتشف:

 • وجود ضمير المتكلم المباشر (I).

 • ارتباط الفعل بزمن مستقبلي (Tomorrow).

 • تطابق نمط الجملة مع بيانات سابقة لعنف فعلي.

فيتم رفع مستوى الخطر إلى Critical Alert بنسبة ثقة (Confidence Score) قد تتجاوز 0.95.

الخصوصية الرقمية من تحليل النص إلى تحليل الهوية

التحوّل الأخطر في هذه الأنظمة هو الانتقال من تحليل النصوص إلى تحليل الهويات الرقمية (Digital Identity Profiling).

بعض الإصدارات الحديثة من Gaggle وGoGuardian Beacon أصبحت تدمج خوارزميات Behavioral Analytics وGraph-Based Profiling، بحيث يمكنها تتبع الطالب عبر الأجهزة المختلفة وربط نشاطه في المدرسة بأنشطته المنزلية إذا استخدم نفس الحساب.

وهذا ما يثير أسئلة أخلاقية وقانونية حول حدود المراقبة، ومدى توافقها مع تشريعات مثل COPPA (Children’s Online Privacy Protection Act) وFERPA (Family Educational Rights and Privacy Act) في الولايات المتحدة.

التبعات القانونية والتربوية

وفقًا للقوانين الأمريكية، فإن التهديدات الرقمية التي تحتوي على نية واضحة للعنف تُعامل على أنها Terroristic Threats حتى لو صدرت من قاصر.

لذلك، بمجرد أن رفعت المدرسة البلاغ الناتج عن تحليل النظام، تم إشعار قسم الأمن المدرسي (School Resource Officer) ثم شرطة المقاطعة، ما أدى إلى اعتقال الطفل فورًا.

الحادثة الثانية في ولاية أخرى حيث كتب طالب على TikTok أنه “سيقتل الموظفين” فى مدرسته، وقد خضعت لنفس المسار التقني والقانوني.

هذا يوضح أن AI Threat Intelligence Systems أصبحت الآن جزءًا من البنية الأمنية في التعليم الأمريكي.

لذا فإن رؤيتي التحليلية..

برأيي، ما حدث يمثل نقطة تحول في العلاقة بين الذكاء الاصطناعي والسلوك الإنساني داخل البيئات التعليمية.

إن التطور في خوارزميات AI Surveillance منح المؤسسات قدرة شبه فورية على اكتشاف النوايا الخطرة، وهو أمر لا يمكن إنكاره من حيث الفعالية الأمنية.

لكن الوجه الآخر لهذا التقدم يثير قلقًا حقيقيًا حول مفهوم الخصوصية الرقمية (Digital Privacy) وحرية التفكير (Freedom of Thought) لدى الجيل الجديد.

الطالب الذي يسأل “سؤالًا افتراضيًا” في ChatGPT قد لا ينوي فعلًا ارتكاب جريمة، بل ربما يختبر حدود المعرفة.

لذا، يجب أن يُعاد النظر في نماذج التدريب (Training Datasets) وخوارزميات التصنيف (Classification Thresholds) بحيث تراعي النوايا التعليمية والفضول الفكري.

 أرى أن الحل يكمن في الدمج بين AI Ethics Frameworks وDigital Literacy Programs داخل المدارس، بحيث يتعلم الطلاب كيف يتحدثون مع الأنظمة الذكية بمسؤولية، وفي الوقت نفسه تُضبط الخوارزميات لتفهم السياق الإنساني لا مجرد الكلمات.

إن مستقبل التعليم الآمن لن يُبنى فقط على المراقبة الآلية، بل على بناء الثقة الرقمية بين الإنسان والآلة، وهي معادلة تحتاج إلى ذكاء أعمق من مجرد تحليل النصوص.