الأسئلة الشائعة حول الذكاء الاصطناعي

يجب على جميع الوكالات، بما في ذلك السلطة التنفيذية ووكالات التعليم العالي والوكالات المستقلة، الرجوع إلى قائمة للحصول على المساعدة.

يمكن إرسال الأسئلة الإضافية إلى: vccc@vita.virginia.gov. 

للأسئلة الفنية المتعلقة بتقنيات ذكاء اصطناعي محددة، يُرجى التواصل مع المسؤول التنفيذي المعين لك.

وفقاً لمعيار سياسة استخدام الذكاء الاصطناعي من قبل كومنولث فيرجينيا (COV) ، يجب على جميع وكالات الفرع التنفيذي (كما هو محدد في EO 30) تسجيل استخدامها للأنظمة الداخلية والخارجية للذكاء الاصطناعي للإشراف والموافقة لضمان الاستخدام الموثوق والآمن والمضمون لهذه الأنظمة.

تعد عملية تسجيل الذكاء الاصطناعي والموافقة عليه عملية متعددة المراحل تتطلب التسجيل في Archer والحصول على الموافقات في Planview من VITA ورئيس وكالتك وأمينك (للذكاء الاصطناعي الخارجي فقط). إذا كان لديك استفسارات حول كيفية تسجيل تكنولوجيا الذكاء الاصطناعي الخاصة بك في Archer، تواصل مع المسؤول التنفيذي المعين لك. إذا كان لديك أي استفسارات حول Planview، يرجى التواصل مع محلل ITIMD المخصص لك.

بينما لا يوجد إعفاء في EO 30 للاستخدامات الحالية للذكاء الاصطناعي، ليس من الضروري تسجيل جميع الاستخدامات في السجل. عند الشك، استفسر من هندسة المؤسسة (EA) المعين لك.

• إذا كان حل الذكاء الاصطناعي يلبي جميع المعايير الثلاثة التالية، فلا يتطلب التسجيل:

• مواجهة داخلية
• لا يستخدم بيانات الأفراد
• غير مدمجة في نظام إنتاج (أمثلة على الأنظمة غير الإنتاجية هي أنظمة وضع الحماية والتطوير والاختبار فقط باستخدام البيانات الاصطناعية أو المتاحة للجمهور)

• إذا استوفى حل الذكاء الاصطناعي أياً من الشروط التالية، فإن التسجيل مطلوب:

• موجه للخارج
• يستخدم بيانات الأشخاص
• مستخدمة في نظام الإنتاج
• يدعم العمليات الأساسية للمهام أو العمليات الحرجة للأعمال للوكالة
• يشمل البيانات الحساسة كما هو محدد في معيار أمن المعلومات SEC530
• يتطلب مراجعة لتقييم خدمات السحابة

يجب أن يحصل أي استخدام للذكاء الاصطناعي، بما في ذلك المنتجات المجانية والمنتشرة على نطاق واسع، على الموافقة باستخدام العملية الموضحة في المعايير. في غياب الموافقة الرسمية، لا ينبغي لأي مسؤول في وكالة حكومية تنفيذ أي منتج ذكاء اصطناعي، بما في ذلك تنزيل المنتجات المجانية على أجهزة تكنولوجيا المعلومات الحكومية أو استخدام هذه المنتجات في الأعمال الرسمية.

كما ينص كل من الأمر التنفيذي 30 ومعايير الذكاء الاصطناعي، تهدف عملية الموافقة إلى ضمان استخدام وكالات الكومنولث للذكاء الاصطناعي بطريقة تحمي بيانات المواطنين، وتقي من التطبيقات المتحيزة، وتكون منطقية من منظور الأعمال. المنتجات المتاحة مجاناً، مثل منتجات الذكاء الاصطناعي التي تشتريها الوكالة، تحمل مخاطر الاستخدام غير السليم. على سبيل المثال، أشارت التغطية الإخبارية الأخيرة إلى أن بعض منتجات الذكاء الاصطناعي المجانية قد تنتج أحياناً نتائج متحيزة تتعارض مع المعايير المحددة في الأمر التنفيذي 30.

لا تنطبق سياسات ومعايير الذكاء الاصطناعي (بما في ذلك سجل الذكاء الاصطناعي) على: 

• الذكاء الاصطناعي المستخدم في أنظمة الدفاع أو أنظمة أمن COV (أمثلة: الأمن السيبراني أو أنظمة التدفئة والتهوية وتكييف الهواء أو أنظمة SCADA)
• الذكاء الاصطناعي المدمج في المنتجات التجارية الشائعة (أمثلة: ساعة iWatch، أو آيفون، أو برامج سطح المكتب التجارية مثل Adobe Photoshop، أو البرامج المدارة كتطبيق خدمة حيث لا يمتلك الكومنولث تطبيق البرنامج والبيانات المستخدمة)
• أنشطة البحث والتطوير في مجال الذكاء الاصطناعي (R&D) أو البرامج التعليمية في المؤسسات العامة للتعليم العالي 

تُعفى أنشطة البحث والتطوير في مجال الذكاء الاصطناعي (R&D) أو البرامج التعليمية في مؤسسات التعليم العالي العامة من سياسة ومعايير الذكاء الاصطناعي ولا يلزم تسجيلها في سجل الذكاء الاصطناعي.  على سبيل المثال:

• الذكاء الاصطناعي المستخدم كجزء من مبادرة بحثية قد يساعد فيها الذكاء الاصطناعي البشر على أداء مهمة ما
• البحث بمساعدة الذكاء الاصطناعي في مجموعة من المعارف
• تحليل البيانات البحثية بمساعدة الذكاء الاصطناعي
• البحث في طرق وخوارزميات وتقنيات الذكاء الاصطناعي
• استخدام الذكاء الاصطناعي في الفصول الدراسية حيث يستخدم الطلاب الذكاء الاصطناعي التوليدي في مهامهم الدراسية
• الذكاء الاصطناعي المستخدم في الفصول الدراسية حيث يقوم المعلمون بتقييم وتقدير مهام الطلاب

توصي VITA بأن تخضع استخدامات الذكاء الاصطناعي لأغراض البحث لبرنامج مجلس المراجعة المؤسسية (IRB) التابع للمؤسسة للإشراف على الأبحاث لضمان معاملة الأشخاص بشكل أخلاقي ومسؤول وتطبيق الحماية لضمان رفاهية وخصوصية الأفراد (بما في ذلك بياناتهم).

توصي VITA بأن يتم تنظيم استخدام الذكاء الاصطناعي في البرامج التعليمية من قبل وزارة التعليم في فرجينيا للمؤسسات التعليمية من الروضة إلى12 ، ومن قبل مجلس الولاية للتعليم العالي للمؤسسات التعليمية العليا.

على الرغم من أن أنشطة البحث والتطوير في مجال الذكاء الاصطناعي (R&D) أو البرامج التعليمية في مؤسسات التعليم العالي العامة معفاة من سياسة ومعايير الذكاء الاصطناعي، إلا أن الأنشطة الإدارية المؤسسية التي تتضمن بيانات الكومنولث (بما في ذلك بيانات الطلاب والبيانات المالية) ليست معفاة.  على سبيل المثال:

• الذكاء الاصطناعي المستخدم في عملية قبول الطلاب
• الذكاء الاصطناعي المستخدم لمنح المنح الدراسية والمساعدات المالية الأخرى
• الذكاء الاصطناعي المستخدم في توظيف واختيار الأفراد وإدارة أداء العاملين
• الذكاء الاصطناعي المستخدم لإدارة وظائف أعمال المؤسسة بما في ذلك العمليات المالية والمشتريات والعقارات والمرافق وتكنولوجيا المعلومات
• الذكاء الاصطناعي المستخدم للوصول إلى بيانات المؤسسة الحساسة، بما في ذلك البيانات الخاضعة لقوانين HIPAA وFERPA وIRS

تخدم COV Ramp وعملية تسجيل واعتماد الذكاء الاصطناعي احتياجات مرتبطة ولكنها منفصلة.

• يعالج تسجيل الذكاء الاصطناعي والموافقة عليه نية الاستفادة من تقنية محددة للذكاء الاصطناعي لاستخدام محدد، ويوضح الامتثال للمخاوف التي تثيرها سياسة الاستخدام
• يُثبت COV Ramp الجدوى التشغيلية للبائع وقدرة الكومنولث على التعامل معه

بالإضافة إلى ذلك، يؤدي تقديم الطلب إلى COV Ramp إلى تكبد الوكالة رسوماً. من خلال تقديم طلب تسجيل واعتماد الذكاء الاصطناعي أولاً، يمكننا تجنب فرض رسوم غير ضرورية في حالة رفض الاستخدام المقترح من قبل VITA أو الأمانة. 

الغرض من سجل الذكاء الاصطناعي هو ضمان الشفافية التامة فيما يتعلق باستخدام الذكاء الاصطناعي. هذا وفقاً لـ معيار سياسة استخدام الذكاء الاصطناعي من قبل كومنولث فيرجينيا (COV) (القسم الرابع، إخلاءات المسؤولية الإلزامية)، الذي يحدد عدة معايير يجب الالتزام بها.

يخضع سجل الذكاء الاصطناعي لقانون حرية المعلومات (FOIA). ومع ذلك، توجد إعفاءات حالية للأمن السيبراني، والتي سيتم تطبيقها إذا كان ذلك مناسباً. انظر VA. القانون § 2.2-3705.2(2) و (14). تنص الأحكام العامة لقانون حرية المعلومات على حالات تتطلب تنقيح بعض المعلومات و/أو استخراجها من قاعدة بيانات. انظر، على سبيل المثال، Va. قانون §§ 2.2-3704(G) و 2.2-3704.01.

إذا كانت الوكالات تقوم بإدخال معلومات في السجل تعتبرها حساسة أو سرية، فيجب على الوكالات تحديد هذه المعلومات بوضوح، لتسهيل المراجعة اللاحقة للمعلومات التي يجب الكشف عنها علناً.

الغرض من خريطة طريق تكنولوجيا الذكاء الاصطناعي لكومنولث فيرجينيا (COV) هو تحديد حلول الذكاء الاصطناعي التي تمت مراجعتها للاستخدام، والمجالات التي قد ترغب الوكالة في استكشافها. إذا لم يكن هناك حل معين للذكاء الاصطناعي مدرجاً في خارطة الطريق، يمكن للوكالة تقديم الحل لعملية تسجيل وموافقة الإشراف على الذكاء الاصطناعي.

يجب النظر في جميع الاستخدامات المقترحة لتكنولوجيا الذكاء الاصطناعي للتسجيل، وفقاً للتوجيهات المذكورة أعلاه، بغض النظر عما إذا كانت مدرجة في خارطة طريق تكنولوجيا الذكاء الاصطناعي.

استخدامات أدوات الذكاء الاصطناعي التوليدي التي

• موجهة نحو الداخل
• لا تُنتِج قرارات أو سياسات
• لا تستخدم بيانات الكومنولث أو بيانات الأفراد
• لا تُستخدم في تنفيذ العمليات الأساسية للوكالة
• غير مدمجة في نظام الإنتاج

لا تتطلب تسجيل الذكاء الاصطناعي.

يجب على الوكالة التي تستخدم بيانات الأفراد في أي حل من حلول الذكاء الاصطناعي أن تكون قادرة على توضيح كيفية استخدام تلك البيانات وحمايتها.

• قم بتفصيل عناصر البيانات المحددة التي سيتم تضمينها، وتبرير استخدامها، وبيان القيمة لما سيتم إنتاجه
• اشرح كيف سيتم حماية مجموعة البيانات، وحدد الأفراد أو الأدوار التي ستتمكن من الوصول إلى البيانات
• اشرح كيفية عمل خوارزمية الذكاء الاصطناعي على مجموعة البيانات وكيف يتم إنتاج النتائج
• حدِّد كيفية إخفاء هوية أي مخرجات بشكل ملائم

يُحظر استخدامها في تطوير أو تدريب نماذج الذكاء الاصطناعي.

عندما يجلب المواطنون مسجلات الذكاء الاصطناعي إلى الاجتماعات، سواء كانت عامة أو خاصة، يُسمح لهم بالتسجيل طالما أنهم لا يسببون أي إزعاج. فرجينيا هي ولاية قضائية تتطلب موافقة طرف واحد (Va. القانون § 19.2-62)، مما يعني أنه طالما وافق أحد المشاركين في المحادثة على تسجيل الاتصال، فإنه من القانوني تسجيل المحادثة. بالإضافة إلى ذلك، قد يمنح قانون حرية المعلومات أو القوانين الأخرى الحق في تسجيل الاجتماعات التي تكون مفتوحة لأعضاء الجمهور. استشر محاميك إذا كانت لديك استفسارات حول هذه المسائل.

يجب أن تتوقع أن تنمو المنتجات عبر مشهد تكنولوجيا المعلومات لتضمين إمكانات الذكاء الاصطناعي بشكل ما، ومن المحتمل أن يشمل ذلك حلولاً برمجية تستخدمها وكالتك حالياً.

• يجب أن تكون الوكالات منتبهة للتغييرات التي تطرأ على المنتجات ضمن محفظتها لإدخال مكونات أو قدرات الذكاء الاصطناعي
• ينبغي على الوكالات توخي الحذر من ادعاءات البائعين التي تبالغ أو تضلل فيما يتعلق باستخدام الذكاء الاصطناعي في المنتجات أو الخدمات لجذب العملاء، وهي ممارسة تُعرف باسم غسيل الذكاء الاصطناعي

فيما يتعلق بالذكاء الاصطناعي المدمج في المنتجات التجارية الشائعة، يجب أن يتركز اهتمامنا في تسجيل التكنولوجيا على ما إذا كان الذكاء الاصطناعي (أ) يقوم بتعديلات على البيانات المدخلة، أو (ب) يتخذ قرارات خارجية.

مجرد وجود الذكاء الاصطناعي داخل المنتج غير كافٍ للتسجيل؛ نحن مهتمون فقط بالتسجيل عندما يُستخدم مكون الذكاء الاصطناعي لإنتاج منتج نهائي. كمثال على ذلك Archer، الذي يحتوي على وحدة ذكاء اصطناعي، إلا أن كومنولث فيرجينيا (COV) لا يستخدمها ولا يمكن للمستخدم النهائي تفعيلها بشكل منفصل.

يجب أن يكون أي حل ذكاء اصطناعي تم تطويره بواسطة كومنولث فيرجينيا (COV) قادراً على إثبات الحصول على إذن لاستخدام مجموعات البيانات المعنية، بما في ذلك تلك المستمدة من المصادر المتاحة للجمهور، ويجب أن يكون قادراً على تعداد تلك المصادر لشرح كيفية عمل الحل. يجب توثيق جميع مجموعات البيانات المستخدمة مع حلول الذكاء الاصطناعي في أداة هندسة المؤسسات كومنولث فيرجينيا (COV). استشر مستشارك القانوني أو مكتب النائب العام بخصوص قضايا الملكية الفكرية أو متطلبات الإذن الأخرى للاستخدام.

يجب أن يكون للذكاء الاصطناعي المستخدم لتوليد التعليمات البرمجية إشراف بشري على تنفيذ ما يتم إنتاجه. يجب على شخص أن يفحص المنتج الذي تم إنشاؤه قبل إدراجه في فرع، ويجب اختبار الحل قبل إصداره للإنتاج.