كيفية ضبط إعدادات الأمان والخصوصية في Gemini على متصفح Chrome

الأخبار الرقمية » الموارد » كيفية ضبط إعدادات الأمان والخصوصية في Gemini على متصفح Chrome

إذا كنت قلقًا بشأن الخصوصية ولكنك لا ترغب في التخلي عن مزايا الذكاء الاصطناعي ، فإن الحل يكمن في تعلم كيفية إعداد Gemini بشكل صحيح في متصفح Chrome والخدمات الأخرى المرتبطة به. سيوضح لك هذا الدليل، خطوة بخطوة، البيانات المخزنة، وكيفية استخدامها، وعناصر التحكم المتاحة لك كمستخدم ومدير في Google Workspace، وكيفية ضبط فلاتر أمان واجهة برمجة تطبيقات Gemini لتقليل المخاطر في المشاريع المتقدمة.

ما هو برنامج Gemini في متصفح Chrome ولماذا يؤثر على خصوصيتك؟

يُعدّ Gemini في متصفح Chrome دمجًا مباشرًا لمساعد جوجل الذكي (الذكاء الاصطناعي) في المتصفح ، ويمكن الوصول إليه عبر أيقونة شرارة في الأعلى. من هذه اللوحة الجانبية، يمكنك طرح أسئلة حول الصفحة المفتوحة، أو طلب ملخصات أو شروحات، أو تفعيل وضع Gemini Live الصوتي للتحدث مع المساعد في الوقت الفعلي.

لكي يعمل كل هذا، يحتاج برنامج Gemini إلى الوصول إلى بعض المعلومات الأساسية : محتوى علامة التبويب التي تتصفحها، ولغة المتصفح، وفي بعض الحالات الميكروفون، وبعض بيانات نشاط التصفح، وذلك بحسب إعداداتك. وهنا تبرز أهمية ضوابط الأمان والخصوصية: فإذا تركتها على إعداداتها الافتراضية، فمن السهل تخزين معلومات أكثر مما ترغب.

تقدم جوجل نفسها نظام Gemini في متصفح Chrome كخطوة نحو " وكلاء الذكاء الاصطناعي " ، أي مساعدين قادرين على فهم ما يحدث على الشاشة، وربط المعلومات من صفحات متعددة، وفي المستقبل، حتى القيام ببعض الإجراءات نيابةً عنك (مثل ملء الاستمارات، ومقارنة المنتجات، وما إلى ذلك). وكلما زادت استقلالية هذه الأنظمة، ازدادت أهمية توضيح ما يتم حفظه، ومدة حفظه، والغرض من ذلك.

المتطلبات الأساسية لتفعيل Gemini في متصفح Chrome

قبل الخوض في إعدادات الخصوصية، يجدر مراجعة الحد الأدنى من المتطلبات لاستخدام Gemini في متصفح Chrome مع حماية المؤسسات القياسية في Google Workspace. سيساعدك هذا على فهم سبب عدم ظهور هذه الميزة في بعض الأحيان.

بالنسبة للمستخدمين في المؤسسات (الشركات أو المؤسسات التعليمية) ، يتوفر تطبيق Gemini في متصفح Chrome تلقائيًا إذا كان حسابك يملك صلاحية الوصول إلى تطبيق Gemini وكان إصدار Google Workspace الخاص بك من بين الإصدارات المدعومة. بالإضافة إلى ذلك، تشترط Google على المستخدم ما يلي:

• قم بتسجيل الدخول إلى Chrome باستخدام حسابك (عادةً من Workspace) من الولايات المتحدة.
• يجب أن يكون عمرك أكثر من 18 عامًا.
• استخدم اللغة الإنجليزية كلغة أساسية لمتصفح كروم (على الأقل في مرحلة النشر الأولية).
• تصفح من نظام التشغيل Windows أو macOS أو iOS (قد يتم توفير التوافق مع الأنظمة الأخرى لاحقاً).

على المستوى الشخصي، عادةً ما يظهر التكامل تدريجياً في متصفح Chrome المستقر أو في قنوات Beta/Dev/Canary، مع وجود خيارات في قائمة الإعدادات ضمن أقسام مثل "ابتكارات الذكاء الاصطناعي" أو "الذكاء الاصطناعي في Chrome". إذا لم ترَ أيقونة الشرارة، فقد تحتاج إلى تحديث متصفحك أو قد لا تكون الميزة متاحة بعد في منطقتك أو لغتك.

يتم الإعداد الأولي من خلال إعدادات المتصفح : بمجرد تفعيل Gemini في Chrome، ستظهر لك أيقونة Spark في الشريط العلوي. ومن هناك، يمكنك تشغيل معالج الإعداد، ومنح أذونات محددة (مثل الوصول إلى الميكروفون)، وتعديل مستوى الوصول إلى محتوى الموقع الإلكتروني تدريجيًا.

جيميني وبياناتك: ما يتم تخزينه وكيف يتم استخدامه

يكمن جوهر خصوصية Gemini في خيار "حفظ النشاط" ضمن تطبيقات Gemini. يحدد هذا الإعداد ما إذا كانت المحادثات والمحتوى الذي تشاركه مع الذكاء الاصطناعي يُخزن في حسابك على Google على المدى المتوسط ​​والطويل، أو ما إذا كان، على العكس من ذلك، يُحتفظ به لفترة قصيرة جدًا فقط لضمان عمل الخدمة.

عند تفعيل إعداد "حفظ النشاط"

إذا أبقيت خيار حفظ النشاط مُفعّلاً، فسيتم تخزين معظم تفاعلاتك مع تطبيق Gemini في سجل أنشطة التطبيق. ويشمل ذلك:

• المحادثات والرسائل النصية التي ترسلها إلى Gemini من متصفح Chrome أو من التطبيق.
• الملفات، ومقاطع الفيديو، ولقطات الشاشة، والصور التي تقوم بتحميلها أو مشاركتها مع المساعد.
• الصوت والتسجيلات والنصوص من برنامج Gemini Liveأي تفاعلاتك الصوتية.
• معلومات حول المواقع الإلكترونية التي تزورها مع تفعيل Geminiأنماط استخدام المنتج وبيانات الموقع (الموقع العام للجهاز، وعنوان IP، وفي بعض الحالات، عناوين المنزل أو العمل المرتبطة بحسابك على Google).

تستخدم جوجل هذا النشاط المسجل لأغراض متعددة : لتزويدك بالخدمة، وتحسينها، وتدريب نماذج الذكاء الاصطناعي التوليدية، بالإضافة إلى الكشف عن أي إساءة استخدام أو سلوك قد يضر بجوجل أو مستخدميها أو الجمهور. ولتحقيق ذلك، تعتمد على مساعدة المراجعين البشريين ومقدمي الخدمات.

تُفصل البيانات التي تخضع للمراجعة البشرية عن حسابك قبل تحليلها، ويتم الاحتفاظ بها لمدة تصل إلى ثلاث سنوات. علاوة على ذلك، لا تُستخدم التسجيلات الصوتية وبيانات Gemini Live تلقائيًا لتحسين خدمات Google إلا إذا اخترتَ ذلك صراحةً بناءً على منطقتك وإعداداتك. وبناءً على تفضيلاتك وموقعك الجغرافي، قد تُستخدم بعض هذه البيانات أيضًا لتخصيص تجربتك.

الخبر السار هو أنه لا يزال لديك تحكم كبير : تُحذف الأنشطة المُنشأة باستخدام Gemini تلقائيًا بعد 18 شهرًا ما لم تُغير هذه المدة. يمكنك تعديلها إلى 3 أو 36 شهرًا، أو حتى ضبطها بحيث لا تُحذف تلقائيًا. والأهم من ذلك، يمكنك الوصول إلى قسم "النشاط في تطبيقات Gemini" لمراجعة الأنشطة، أو حذف عناصر مُحددة، أو تعطيل خيار حفظ النشاط تمامًا وقتما تشاء.

عند تعطيل إعداد "حفظ النشاط"

إذا اخترت تعطيل حفظ نشاط Gemini، فلن يتم ربط محادثاتك المستقبلية بسجلك ولن يتم استخدامها لتدريب نماذج الذكاء الاصطناعي من Google، إلا إذا قمت بتقديم ملاحظات صريحة.

مع ذلك، ولأسباب تقنية وأمنية، تحتفظ جوجل بالمحادثات لمدة 72 ساعة . تتيح هذه الفترة القصيرة لـ Gemini ضمان استمرارية الردود، ومعالجة تعليقاتك، وحماية الخدمة من خلال الكشف عن أي إساءة استخدام أو نشاط ضار.

هناك العديد من الفروق الدقيقة المهمة التي يجب مراعاتها عند تعطيل حفظ النشاط:

• لا يتم حذف المحادثات القديمة التي تمت مراجعتها بالفعل من قبل مزودي الخدمة.لأنها تُخزّن دون ربطها بحسابك على جوجل. ويتم الاحتفاظ بهذه البيانات لمدة تصل إلى 3 سنوات.
• لن تكون بعض التطبيقات المتصلة متاحة بعد الآن إذا تم تعطيل هذا الإعداد، فذلك لأنهم يحتاجون إلى الوصول إلى سجل التصفح أو البيانات الخاصة بك لكي يعملوا بطريقة متكاملة.
• عناصر تحكم أخرى من جوجل، مثل "نشاط الويب والتطبيقات" أو "سجل المواقع".قد تستمر هذه الأجهزة في تخزين بيانات التصفح والموقع المستمدة من خدمات أخرى (عمليات البحث، الخرائط، إلخ)، حتى لو قمت بتقييد نشاط Gemini.
• تحتفظ التطبيقات المتصلة أو الخدمات الخارجية التي تتفاعل مع Gemini بالبيانات التي تتلقاها. وفقًا لسياسات الخصوصية الخاصة بهم. إذا حذفت محادثة من موجز نشاط Gemini، فهذا لا يعني حذف المعلومات التي تم إرسالها بالفعل إلى تلك الخدمات.

باختصار، يؤدي تعطيل خيار "حفظ النشاط" إلى تقليل سجل محادثاتك مع تطبيق Gemini على المدى الطويل ، ولكنه لا يضمن إخفاء هويتك تمامًا. يُنصح باتخاذ هذه الخطوة إذا كانت الخصوصية أولوية لديك، شريطة أن تتقبل القيود التي قد تفرضها على بعض الميزات أو التكاملات.

ضوابط الخصوصية الموصى بها في تطبيق Gemini ونظامه البيئي

لا يقتصر استخدام Gemini على متصفح Chrome فقط، بل يتوفر أيضًا على نظام Android والويب، ويرتبط بخدمات Google الأخرى . إذا كنت ترغب في حماية معلوماتك الشخصية بشكل صحيح، فمن المفيد مراجعة بعض الإعدادات الإضافية التي تُحدث فرقًا كبيرًا. على سبيل المثال، جرّب إضافات مثل إضافة فلترة المحتوى المُولّد بالذكاء الاصطناعي ، والتي تُساعدك على تصفية ما تراه في متصفحك.

1. قم بتعطيل إضافة Google Workspace في Gemini

إذا كنت تستخدم Google Drive أو Docs أو Sheets أو أي أداة Workspace أخرى ، فقد لا ترغب في أن يكون لدى Gemini إمكانية الوصول المباشر إلى تلك المستندات، على الرغم من أن Google تؤكد أنها لا تستخدمها لتدريب النماذج دون إذنك.

لتعيين حدود واضحة، قم بتعطيل إضافة Google Workspace في تطبيق Gemini :

• افتح تطبيق Gemini على هاتفك المحمول أو على نسخة الويب.
• انقر على صورة ملفك الشخصي وانتقل إلى "الإضافات"..
• ابحث عن خيار "Google Workspace" وقم بإيقاف تشغيله.

يمنع هذا التغيير الذكاء الاصطناعي من قراءة المستندات الشخصية أو المهنية بشكل مباشر ، وهو أمر بالغ الأهمية بشكل خاص إذا كنت تدير معلومات سرية أو بيانات عملاء أو عقود حساسة.

2. تقييد الوصول إلى الأجهزة الذكية

إذا كان لديك منزل متصل مزود بكاميرات أو مكبرات صوت أو مصابيح ذكية أو مقابس ، فقد يكون جهاز Gemini قادرًا على التفاعل مع تلك الأجهزة من خلال ملحقات التحكم.

لتقليل مخاطر الوصول غير المصرح به، راجع ملحق إدارة الجهاز في تطبيق Gemini:

• افتح برنامج Gemini وارجع إلى "الإضافات".
• حدد خيار "التحكم بالجهاز" أو ما شابه ذلك..
• قم بإلغاء تنشيطه إذا كنت لا تريد أن يقوم جهاز Gemini بإدارة أجهزتك المنزلية.

وهذا أمر منطقي ليس فقط من أجل الخصوصية، ولكن أيضًا من أجل الأمن المادي : فأنت تقلل من احتمالية أن يسمح التكوين السيئ أو الخطأ بإجراءات على منزلك دون إشراف واضح.

3. تعطيل تسجيل النشاط في تطبيق Gemini

بالإضافة إلى متصفح كروم، تخزن جوجل سجل تفاعلات جيميني في قسم محدد من حسابك يسمى "نشاط تطبيقات جيميني". يجمع هذا القسم المحادثات والأوامر والبيانات الأخرى التي يستخدمها المساعد للتعلم وتخصيص الاستجابات.

إذا كنت ترغب في تجنب هذا التخزين المستمر، يمكنك إيقافه تمامًا من داخل التطبيق نفسه :

• افتح تطبيق Gemini وانقر على صورة ملفك الشخصي.
• انتقل إلى "نشاط تطبيقات Gemini".
• في قائمة الإعدادات المنسدلة، حدد "تعطيل".

بذلك، تحدّ بشكل كبير من كمية البيانات التي تخزنها جوجل حول محادثاتك مع الذكاء الاصطناعي . ستظل هناك فترة احتفاظ تقنية قصيرة (72 ساعة) للحفاظ على تشغيل النظام، لكن هذه المعلومات لن تتراكم بعد الآن في سجلّك طويل الأمد.

4. امنع تطبيق Gemini من الوصول إلى بياناتك الشخصية من التطبيقات الأخرى

يمكن لـ Gemini الاستفادة من المعلومات من خدمات Google الأخرى (Gmail، التقويم، المواقع الأخيرة، إلخ) لتقديم إجابات أكثر تخصيصًا لك، وهو أمر مفيد للغاية في بعض الأحيان ولكنه أيضًا متطفل للغاية.

إذا كنت لا ترغب في أن يقوم الذكاء الاصطناعي بالبحث في رسائل البريد الإلكتروني أو الأحداث أو سجل السفر الخاص بك ، فيمكنك تعطيل استخدام خيارات مساعد جوجل القديمة:

• افتح تطبيق Gemini.
• انقر على صورة ملفك الشخصي وانتقل إلى "الإعدادات".
• الوصول إلى "خيارات مساعد جوجل في جيميني".
• قم بإيقاف تشغيل "خيارات استخدام مساعد جوجل".

هذا يقطع الصلة بين جيميني والعديد من مصادر البيانات الشخصية التي كان يستخدمها المساعد الكلاسيكي لتقديم نتائج مخصصة. ستفقد بعض الراحة، لكنك ستنعم براحة البال.

5. تجنب المواضيع الحساسة في محادثاتك مع الذكاء الاصطناعي

حتى مع أعلى إعدادات الخصوصية، من الأفضل دائمًا استخدام المنطق السليم . لا يوجد مساعد ذكاء اصطناعي مناسب لمشاركة كلمات المرور، أو تفاصيل الحسابات المصرفية، أو المعلومات الطبية الحساسة للغاية، أو أي تفاصيل قد تُعرّض سلامتك الجسدية للخطر.

التوصية العامة هي التعامل مع المحادثات مع جيميني على أنها قد تكون عامة : من الأفضل عدم قول أي شيء لا تشعر بالراحة في مشاركته عبر منصة إلكترونية موثوقة. بهذه الطريقة، حتى لو حدث خطأ ما أو تغيرت السياسات في المستقبل، سيكون التأثير على خصوصيتك أقل بكثير.

كيف يمكن للمسؤول التحكم في استخدام Gemini في متصفح Chrome؟

في بيئات العمل أو البيئات التعليمية، يلعب مسؤولو Google Workspace دورًا رئيسيًا في تحديد من يمكنه استخدام Gemini، وكيفية حفظ سجل المحادثات، وإلى أي مدى يتم تمكين Gemini في Chrome داخل المؤسسة.

تفعيل أو تعطيل تطبيق Gemini للمستخدمين

من خلال لوحة تحكم مشرفي جوجل، يستطيع المشرف تشغيل خدمة Gemini أو إيقافها على مستوى المؤسسة أو حسب الوحدة التنظيمية. وتتلخص آلية العمل العامة فيما يلي:

• قم بالوصول إلى لوحة التحكم الإدارية.
• انتقل إلى القائمة "الذكاء الاصطناعي التوليدي > تطبيق Gemini".
• ادخل إلى قسم "حالة الخدمة".
• قم بضبط ما إذا كانت الخدمة مفعلة أو معطلة للجميع أو لمجموعات محددة.

يتوفر أيضًا خيارٌ يسمح لجميع المستخدمين بالوصول إلى تطبيق Gemini، بغض النظر عن نوع ترخيصهم ، وذلك بتحديد خانة "السماح لجميع المستخدمين بالوصول إلى تطبيق Gemini، بغض النظر عن نوع الترخيص". ويمكن استخدام هذا الخيار في سيناريوهات الاختبار أو عمليات النشر التدريجي.

لا تُطبَّق التغييرات على حالة الخدمة فورًا ؛ فبحسب جوجل، قد يستغرق الأمر ما يصل إلى 24 ساعة حتى تنتشر، مع أنها غالبًا ما تُنفَّذ في وقت أقل. ينبغي مراعاة ذلك قبل الإعلان عن أي ميزات جديدة للفريق.

تحكم في سجل محادثات Gemini

يُعد سجل المحادثات من أكثر الإعدادات حساسيةً بالنسبة للشركات . ومن خلال لوحة التحكم، يستطيع المسؤول الوصول إلى قسم "سجل محادثات Gemini" وتحديد كيفية التعامل مع هذا الجانب.

تتضمن الخيارات الأساسية تفعيل أو تعطيل سجل المحادثات باستخدام خانة اختيار "تفعيل سجل محادثات جيميني". في حال التفعيل، يمكنك ضبط فترة احتفاظ تلقائية بالمحادثات لمدة 3 أو 18 أو 36 شهرًا (18 شهرًا هي المدة الافتراضية).

يؤدي تعطيل سجل المحادثات إلى تقليل كمية المعلومات المخزنة ، وهو ما يناسب المؤسسات الخاضعة لأنظمة خصوصية صارمة أو تلك التي ترغب ببساطة في تقليل المخاطر. مع ذلك، ينتج عن ذلك فقدان بعض إمكانيات استمرارية التجربة وتخصيصها على المدى الطويل.

قد تستغرق التغييرات في هذا التكوين ما يصل إلى 48 ساعة لإكمالها ، لذا يُنصح بالتخطيط لها وإبلاغها داخليًا، خاصة إذا كانت تؤثر على سير العمل القائم على الاستخدام المكثف للذكاء الاصطناعي.

تعطيل Gemini فقط في Chrome باستخدام سياسات Chrome Enterprise

ترغب بعض المنظمات في مواصلة استخدام تطبيق Gemini وإصداراته الخاصة بالويب والهواتف المحمولة، لكنها لا ترغب في السماح باستخدام Gemini في متصفح Chrome بسبب السياق الإضافي المطلوب لرؤية ما يحدث في المتصفح.

في هذه الحالات، يمكنك استخدام سياسة "GeminiSettings" في Chrome Enterprise ، والتي تتيح لك تعطيل Gemini في Chrome فقط مع الحفاظ على إمكانية الوصول إلى التطبيق في بيئات أخرى. يمنع هذا المستخدمين من تضمين المساعد في المتصفح، ولكنه يسمح لهم بمواصلة استخدام Gemini بطريقة أكثر تحكمًا في بيئات أخرى.

من المهم معرفة شهادات الامتثال التي لا يدعمها Gemini في متصفح Chrome حاليًا ، مثل HIPAA (BAA)، ومعايير SOC المختلفة، وأكثر معايير ISO شيوعًا في مجال الأمن والخصوصية، وFedRAMP High، وBSI C5:2020. بالنسبة للعملاء الذين لديهم اتفاقيات BAA موقعة، يتم حظر Gemini في Chrome تلقائيًا لمنع انتهاكات لوائح الصحة الأمريكية، وينبغي النظر في بدائل مثل Private AI Compute للبيئات الأكثر تقييدًا.

مرشحات أمان واجهة برمجة تطبيقات Gemini: كيفية ضبط مستوى المخاطر

إذا كنت، بالإضافة إلى استخدام Gemini في متصفح Chrome، تقوم بتطوير تطبيقات تستخدم واجهة برمجة تطبيقات Gemini ، فستحصل على طبقة إضافية من الحماية الأمنية وحماية الخصوصية: وهي فلاتر المحتوى الضار. تتيح لك هذه الضوابط تقييد أنواع الاستجابات التي يمكن للنموذج توليدها داخل منتجك.

فئات الأمان المتاحة

تُحدد واجهة برمجة تطبيقات Gemini عدة فئات من الأضرار المحتملة ، والتي تتوافق مع نوع المحتوى الذي ترغب في حظره أو السماح به. أهمها هي:

فئة	وصف
مضايقة	التعليقات العدوانية أو الضارة الموجهة إلى الأفراد أو الجماعات، وخاصة عندما تؤثر على الهويات أو السمات المحمية.
التحريض على الكراهية أو العنف	المحتوى المسيء أو الفظ أو الفاحش، والرسائل التي قد تحرض على العنف أو التمييز ضد فئات معينة.
محتوى جنسي صريح	الإشارات إلى الأفعال الجنسية أو المواد الإباحية أو الفاحشة بشكل واضح.
بيليجروسو	المحتوى الذي يروج أو يسهل أو يشجع على الأنشطة الضارة أو غير القانونية.
النزاهة المدنية	الاستفسارات المتعلقة بالانتخابات والعمليات المدنية والقضايا السياسية الحساسة (بشكل رئيسي في النماذج السابقة مثل PaLM 2).

في نماذج Gemini الحالية، لا تُدعم سوى بعض هذه الفئات كفلاتر قابلة للتخصيص: التحرش، وخطاب الكراهية، والمحتوى الجنسي الصريح، والمحتوى الخطير. أما الفئات الأخرى الأكثر تحديدًا فلا تزال تُستخدم في النماذج القديمة مثل PaLM 2.

إضافةً إلى هذه المرشحات القابلة للتعديل، توجد وسائل حماية مدمجة لا يمكن تعطيلها ، مثل تلك المتعلقة بسلامة الأطفال وأنواع أخرى من الأذى الجسيم. يتم حظر هذا المحتوى دائمًا، بغض النظر عن الإعدادات التي تختارها.

مستويات الاحتمالية وعتبات الحجب

تقوم واجهة برمجة التطبيقات (API) بتقييم جميع المحتويات الواردة والصادرة، وتصنف احتمالية كونها غير آمنة إلى أربعة مستويات: عالية، متوسطة، منخفضة، ومعدومة. والنقطة الأساسية هي أن النظام يقرر الحظر بناءً على الاحتمالية، وليس على مدى خطورة الضرر المُتصوَّر.

هذا يعني أن العبارات التي تبدو بريئة قد تُصنّف على أنها ضارة ، والعكس صحيح. على سبيل المثال، قد تُصنّف عبارة "ضربني الروبوت" على أنها أكثر ضررًا من عبارة "طعنني الروبوت" في بعض السياقات، على الرغم من أن الأخيرة تبدو أكثر عنفًا. لذلك، من الضروري اختبار الإعدادات بدقة قبل نشرها في بيئة الإنتاج (وتطبيق اختبارات آلية على نماذج الذكاء الاصطناعي ).

يمكنك تحديد عتبة حظر لكل فئة باستخدام قيم مثل:

برنامج Threshold (Google AI Studio)	العتبة (واجهة برمجة التطبيقات)	وصف
إبطال مفعولها	يوم عطلة	لا يوجد فلتر أمني ينطبق على هذه الفئة.
لا تحجب	BLOCK_NONE	اسمح دائمًا بالمحتوى، بغض النظر عن احتمالية الضرر.
كتلة صغيرة	BLOCK_ONLY_HIGH	لا يتم حظره إلا عندما يكون احتمال أن يكون ضاراً مرتفعاً.
حظر شيء ما	BLOCK_MEDIUM_AND_ABOVE	يتم حظرها عندما يكون الاحتمال متوسطًا أو مرتفعًا.
حظر معظم	كتلة منخفضة وأعلى	يتم حظر جميع المحتويات ذات الاحتمالية المنخفضة أو المتوسطة أو العالية.
لا يوجد	عتبة منع الضرر غير محددة	يتم تطبيق الحد الافتراضي للنموذج.

إذا لم تحدد عتبات، فإن أحدث النماذج المتاحة عمومًا تستخدم عادةً خيار "عدم الحظر" افتراضيًا ، بينما تطبق نماذج أخرى خيار "حظر شيء ما" كإعداد افتراضي. أما فئة "النزاهة المدنية" فتُعامل بشكل مختلف، حيث توجد عتبات أعلى في بعض النماذج للحد من المحتوى الحساس سياسيًا.

مثال عملي : إذا كنتَ تُنشئ حوارًا للعبة فيديو تتضمن لغةً عدوانيةً نوعًا ما، فقد ترغب في السماح بمزيد من المحتوى المصنف على أنه خطير أو يحتوي على مضايقات خفيفة، مع الحفاظ على ضوابط صارمة للمحتوى الصريح الذي يحض على الكراهية أو المحتوى الجنسي. من خلال تعديل عتبات كل فئة، يمكنك تحقيق هذا التوازن دون فتح الباب أمام إساءة استخدام خطيرة.

التكوين حسب الطلب وملاحظات الأمان

من مزايا واجهة برمجة تطبيقات Gemini إمكانية ضبط إعدادات الأمان حسب الحاجة . فلا حاجة إلى إعدادات ثابتة واحدة لتطبيقك بالكامل؛ إذ يمكنك تشديد أو تخفيف عوامل التصفية بناءً على المرحلة الحالية للمستخدم في مسار المستخدم.

عند إجراء استدعاء لـ generateContent، تتضمن الاستجابة معلومات الأمان في شكل GenerateContentResponse مع حقول محددة:

• ملاحظات فوريةيجمع هذا النظام معلومات أمنية حول الرسالة المدخلة (ما كتبه المستخدم). إذا كانت قيمة promptFeedback.blockReason موجودة، فهذا يعني أنه تم حظر الرسالة لأسباب أمنية.
• Candidate.finishReason و Candidate.safetyRatingsتوضح هذه المعلومات سبب إيقاف استجابة معينة، وما هي تقييمات السلامة المطبقة. إذا كان سبب الإيقاف هو "السلامة"، فهذا يعني أن المخرجات قد تم حظرها، ويمكنك مراجعة تقييمات السلامة لمعرفة الفئة التي تندرج ضمنها ومدى احتمالية حظرها.

تُعد هذه الملاحظات مفيدة للغاية لتصحيح أخطاء تطبيقك، وضبط العتبات، وتسجيل سبب عدم عرض محتوى معين للمستخدمين النهائيين بشفافية، وهو أمر يزداد أهمية في مواجهة تنظيم الذكاء الاصطناعي.

ضبط الفلاتر في Google AI Studio وفي SDKs

إذا كنت تعمل في Google AI Studio قبل كتابة التعليمات البرمجية ، فستجد واجهة رسومية لتعديل هذه الإعدادات دون الحاجة إلى كتابة أي تعليمات برمجية. من لوحة "إعدادات وقت التشغيل"، يمكنك النقر على "تعديل إعدادات الأمان" وإدارة أشرطة التمرير حسب الفئة.

في برنامج AI Studio، لا يمكنك تعطيل الأمان بشكل كامل ، ولكن يمكنك خفض مستوى الحماية إلى "عدم الحظر" في فئة محددة. عند القيام بذلك، يعرض البرنامج تذكيرًا بشروط خدمة Gemini API، حيث قد تخضع المشاريع ذات الإعدادات الأقل تقييدًا لمراجعة إضافية.

عند إرسال طلب من AI Studio وحظر المحتوى ، تظهر رسالة "لا يوجد محتوى" بجوار أيقونة تحذير. عند تمرير مؤشر الماوس فوقها والنقر على "الأمان"، ستظهر لك معلومات عن الفلتر الذي تم تفعيله، مما يساعدك على إعادة تطبيق الإعدادات في حزم تطوير البرامج (SDKs).

في حزم تطوير البرامج الرسمية (على سبيل المثال، عند استدعاء GenerateContent) ، يمكنك ضبط إعدادات الأمان باستخدام معلمات تحدد فئة الضرر (مثل HARM_CATEGORY_HARASSMENT أو HARM_CATEGORY_HATE_SPEECH) والحد الأدنى (على سبيل المثال، BLOCK_LOW_AND_ABOVE لحظر أي احتمال غير ضئيل). من خلال تعديل هذه القيم لكل نقطة نهاية أو مسار في تطبيقك، يمكنك التمييز بين الأقسام الأكثر تساهلاً (مثل أدوات الاختبار الداخلية) والأقسام العامة ذات المرشحات الأكثر صرامة.

كخطوات تالية موصى بها، تقترح جوجل مراجعة مرجع واجهة برمجة التطبيقات الكاملة ، ووثائق HarmBlockThreshold، وإرشادات أمان LLM، بالإضافة إلى الأدوات التكميلية مثل واجهة برمجة تطبيقات Perspective، والتي يمكن استخدامها لإنشاء مصنفات السمية المدعومة بهذه التكوينات.

يُمكّنك هذا الإطار الكامل للإعدادات والتحكمات من الاستفادة من Gemini في متصفح Chrome وواجهة برمجة التطبيقات (API) دون المساس بالأمان والخصوصية: يمكنك تحديد مدى ما ترغب أن يتعلمه الذكاء الاصطناعي منك، والبيانات المسموح بمشاركتها، ونوع المحتوى الذي سيقبله تطبيقك، ومدة الاحتفاظ بالمحادثات. مع القليل من الإعداد الأولي وبعض المنطق السليم، يمكنك الاستمتاع بمزايا الذكاء الاصطناعي دون تعريض بياناتك للخطر.