يدعي رائد أعمال التكنولوجيا، وين تشانغ، أنه قام بتطوير أداة ذكاء اصطناعي تُدعى LLM Shield، والتي تمنع روبوتات الدردشة والنماذج اللغوية الكبيرة (LLMs) مثل “شات جي بي تي” من أخذ أسرار الشركات. إن استخدام أدوات الذكاء الاصطناعي يتزايد مؤخرًا، مثيرًا المخاوف حول كون الشركات مُعرَّضة لتسريبات البيانات والدعاوى القضائية.
وفقًا لتقرير من Cyberhaven، تقريبًا 2.3% من الموظفين قاموا بوضع معلومات الشركة السرية في “شات جي بي تي”، بينما كانت نسبة البيانات السرية المنسوخة إلى روبوت الدردشة 11%.
ونتيجًة لذلك، ذُكِر أن عديد من الشركات بما فيها “جي بي مورغان” حظرت الوصول إلى الأداة.
اقرأ أيضًا: هل مكاتب الميتافيرس ستعود بقوة؟
لقد تم تطوير LLM Shield لحماية الشركات والحكومات من رفع البيانات السرية إلى الأدوات المدعومة بالذكاء الاصطناعي مثل “شات جي بي تي” و”بارد“.
أخبر تشانغ Fox Business أنه عند إطلاق OpenAI ل”شات جي بي تي” في السوق في نوفمبر، لقد رأي مدى قوته، وأنه أتى ب”مخاطر كبيرة جدًا جدًا”.
وقال: “ستتصاعد الأمور بسرعة كبيرة – وهذا إيجابي وسلبي،”.
“إن تركيزي هنا هو أن أتأكد أننا سنقود الذكاء الاصطناعي بشكل إيجابي إلى الطريق الصحيح، وأننا سنتجنب العيوب بأقصى قدر ممكن”.
التكنولوجيا للتحكم في التكنولوجيا
أُطلِق منذ أسبوع، ويُحذر LLM Shield المنظمات في كل مرة تكون هناك محاولة لرفع معلومات سرية. وفقًا لFox Business، يمكن للمسؤولين تعيين حواجز حماية لأنواع البيانات التي تريد الشركة حمايتها.
أي محاولة لرفع معلومات كهذه ستجعل LLM Sheild يُنبِّه المستخدمين أنهم على وشك إرسال بيانات حساسة، وتشويش البيانات حتى يصبح المحتوى مفيدًا، ولكن لا يمكن للبشر قراءته.
🚨 Companies and countries are BANNING LLMs left and right. 🚨
There are no tools solving this (“policies” don’t work).
Announcing @LLMShield – leak prevention technology that’s built for an AI-first world.
Do you *know* who’s copying and pasting your data? https://t.co/EtO5bHJow1
— wayne chang (@Wayne) April 20, 2023
من المتوقع أن يصبح LLM Shield أذكى، تمامًا مثل أدوات الذكاء الاصطناعي التي يتم تكليفها بالحد من صلاحياتها. كما أنه يتم تحديثه مثل مرشح البريد العشوائي، لذلك مع وصول المزيد من الروبوتات إلى السوق، ستقوم تلقائيًا بتحديث نفسها لتعزيز الحماية.
وفقًا لتشانغ، هناك خطط لإطلاق نسخة خاصة للأفراد ليقوموا بتحميله للاستخدام المنزلي.
تسريبات البيانات تُقلق الشركات
شهد هذا العام طفرة في استخدام الشركات لأدوات الذكاء الاصطناعي، ومن المحتمل أن ننظر إلى الوراء في عام 2023 باعتباره العام الذي بدأت فيه ثورة الذكاء الاصطناعي بشكل جدي.
ومع ذلك فقد أثار تدفق هذه الأدوات أيضًا مخاوف من أن العمال قد يسربون عن قصد أو عن غير قصد معلومات حساسة إلى أدوات تعمل بالذكاء الاصطناعي مثل “شات جي بي تي”.
الخطر موجود بالفعل. تعرضت سامسونغ مؤخرًا لسلسلة من تسريبات البيانات عندما زُعِم أن موظفيها قاموا بلصق نص برمجي مصدري في روبوتات جديدة، مما قد يؤدي إلى كشف معلومات الملكية.
على نحو متزايد، أصبح أرباب العمل قلقين بشأن كيفية استخدام موظفيهم لأدوات الذكاء الاصطناعي في العمل. حظرت بعض الشركات بالفعل استخدام “شات جي بي تي” في العمل، على الرغم من أن الموظفين لا يزالون يجدون طريقهم للتغلب على القيود.
في مذكرة تم تسريبها، حذرت “وول مارت” الموظفين من مشاركة المعلومات السرية مع “شات جي بي تي”. قالت المجموعة إنها حظرت في السابق برنامج الدردشة الآلي بسبب “النشاط الذي يمثل خطرًا على شركتنا”.
كما حذرت أمازون موظفيها من نفس التحدي. أخبر محامي الشركة الموظفين أن الشركة قد شاهدت بالفعل حالات من ردود “جي بي تي” والتي كانت مشابهة لبيانات أمازون الداخلية.
موظفون ذو وجهين
بالنسبة للدول الممنوع فيها استخدام “شات جي بي تي” ولكنه مازال يُستخدَم هناك – الصين والمناطق الأخرى في أفريقيا، على سبيل المثال، لم يتم ردع الموظفين من استخدام الأداة المدعومة بالذكاء الاصطناعي في مؤسساتهم.
وكشفت دراسة لFishbowl تم إطلاقها في فبراير أن تقريبًا 70% من الموظفين يستخدمون “شات جي بي تي” في العمل دون معرفة رؤسائهم.
أخبر الرئيس التنفيذي لCyberhaven، هوارد تينغ، “Axios” أن الموظفين دائمًا ما وجدوا طرق لتجنب حظر شبكة الشركة للوصول إلى روبوتات الدردشة.
لقد قال أن بعض الشركات اعتقدت أن الموظفين لم يتمكنوا من الوصول إلى روبوت الدردشة قبل أن أخبرتهم الشركة بخلاف ذلك.
وكشف أنه: “يمكن للمستخدمين أن يستخدموا بروكسي لتجنب الكثير من أدوات الحماية الشبكية تلك،”.
