Ako nakonfigurovať zabezpečenie a súkromie Gemini v prehliadači Chrome

Informatec Digital » Zdroje » Ako nakonfigurovať zabezpečenie a súkromie Gemini v prehliadači Chrome

Ak máte obavy o súkromie, ale nechcete sa vzdať výhod umelej inteligencie , kľúčom je naučiť sa, ako správne nakonfigurovať Gemini v prehliadači Chrome a ďalších súvisiacich službách. Táto príručka vám krok za krokom ukáže, aké údaje sa ukladajú, ako sa používajú, aké ovládacie prvky máte k dispozícii ako používateľ a správca v službe Google Workspace a ako doladiť bezpečnostné filtre rozhrania API služby Gemini, aby ste znížili riziká v pokročilejších projektoch.

Čo je Gemini v prehliadači Chrome a prečo ovplyvňuje vaše súkromie?

Gemini v prehliadači Chrome je priama integrácia asistenta umelej inteligencie od spoločnosti Google do prehliadača , ktorá je dostupná prostredníctvom ikony iskry v hornej časti. Z tohto bočného panela môžete klásť otázky týkajúce sa otvorenej stránky, vyžiadať si súhrny alebo vysvetlenia alebo aktivovať hlasový režim Gemini Live, aby ste sa s asistentom mohli rozprávať v reálnom čase.

Aby toto všetko fungovalo, Gemini potrebuje prístup k určitému kontextu : obsahu karty, ktorú si prezeráte, jazyku prehliadača, v niektorých prípadoch mikrofónu a v závislosti od vašich nastavení aj k niektorým údajom o vašej aktivite prehliadania. Tu prichádzajú na rad bezpečnostné a súkromné ​​kontroly: ak ich ponecháte na predvolených nastaveniach, ľahko sa uloží viac informácií, ako by ste chceli.

Samotný Google prezentuje Gemini v prehliadači Chrome ako krok smerom k „ agentom umelej inteligencie “ – teda asistentom schopným pochopiť, čo sa deje na obrazovke, prepojiť informácie z viacerých stránok a v budúcnosti dokonca vykonávať akcie za vás (vypĺňať formuláre, porovnávať produkty atď.). Čím väčšia je autonómia, tým dôležitejšie je mať jasno v tom, čo sa ukladá, na ako dlho a na aký účel.

Základné požiadavky a aktivácia Gemini v prehliadači Chrome

Predtým, ako sa ponoríme do nastavení ochrany osobných údajov, je vhodné si preštudovať minimálne požiadavky na používanie prehliadača Gemini v prehliadači Chrome so štandardnými podnikovými ochranami služby Google Workspace. To vám pomôže pochopiť, prečo túto funkciu niekedy nevidíte k dispozícii.

Pre používateľov v organizáciách (firemných alebo vzdelávacích prostrediach) je Gemini v prehliadači Chrome predvolene k dispozícii, ak má váš účet prístup k aplikácii Gemini a vaša verzia Google Workspace patrí medzi podporované. Okrem toho spoločnosť Google vyžaduje, aby používateľ:

• Buďte prihlásení do prehliadača Chrome pomocou svojho účtu (zvyčajne z Workspace) zo Spojených štátov.
• Mať viac ako 18 rokov.
• Používať angličtinu ako primárny jazyk prehliadača Chrome (aspoň v počiatočnej fáze nasadenia).
• Prehliadajte z Windowsu, macOS alebo iOS (Kompatibilita s inými systémami môže byť dostupná neskôr).

Na osobnej úrovni sa integrácia zvyčajne objavuje postupne v stabilnom prehliadači Chrome alebo v kanáloch Beta/Dev/Canary s možnosťami v ponuke Nastavenia v sekciách ako „Inovácie AI“ alebo „AI v prehliadači Chrome“. Ak ikonu iskry nevidíte, možno budete musieť aktualizovať prehliadač alebo táto funkcia ešte nemusí byť dostupná vo vašom regióne alebo jazyku.

Počiatočné nastavenie sa vykonáva prostredníctvom nastavení prehliadača : po aktivácii Gemini v prehliadači Chrome sa v hornom paneli zobrazí tlačidlo iskry. Odtiaľ môžete spustiť sprievodcu nastavením, udeliť konkrétne povolenia (napríklad prístup k mikrofónu) a postupne upravovať úroveň prístupu k obsahu webových stránok.

Gemini a vaše údaje: čo sa ukladá a ako sa to používa

Jadro ochrany súkromia v aplikácii Gemini spočíva v možnosti „Ukladať aktivitu“ v rámci aplikácií Gemini. Toto nastavenie určuje, či sa konverzácie a obsah, ktoré zdieľate s umelou inteligenciou, ukladajú do vášho účtu Google v strednodobom a dlhodobom horizonte, alebo či sa naopak uchovávajú len veľmi krátko, aby služba fungovala.

Keď je zapnuté nastavenie „Ukladať aktivitu“

Ak ponecháte možnosť ukladania aktivít zapnutú, väčšina vašich interakcií s aplikáciou Gemini sa uloží do histórie aktivít aplikácie Gemini. Patria sem:

• Konverzácie a textové správy ktoré odošlete do Gemini z prehliadača Chrome alebo z aplikácie.
• Súbory, videá, snímky obrazovky a fotografie ktoré nahráte alebo zdieľate s asistentom.
• Zvuk, nahrávky a prepisy z Gemini LiveTeda vaše hlasové interakcie.
• Informácie o webových stránkach, ktoré navštevujete s povoleným GeminiVzorce používania produktov a údaje o polohe (všeobecná poloha zariadenia, IP adresa a v niektorých prípadoch aj adresa bydliska alebo práce spojená s vaším účtom Google).

Spoločnosť Google používa túto zaznamenanú aktivitu na niekoľko účelov : na poskytovanie služby, jej vylepšovanie a trénovanie generatívnych modelov umelej inteligencie, ako aj na odhaľovanie zneužívania alebo správania, ktoré by mohlo poškodiť spoločnosť Google, jej používateľov alebo verejnosť. Na to sa spolieha na pomoc ľudských kontrolórov a poskytovateľov služieb.

Dáta, ktoré prechádzajú ľudskou kontrolou, sú pred analýzou oddelené od vášho účtu a uchovávajú sa až 3 roky. Okrem toho sa zvukové nahrávky a dáta Gemini Live štandardne nepoužívajú na zlepšenie služieb Google, pokiaľ sa výslovne neprihlásite na prispôsobenie svojho regiónu a nastavení. V závislosti od vašich preferencií a geografickej polohy sa niektoré z týchto aktivít môžu použiť aj na prispôsobenie vášho zážitku.

Dobrou správou je, že stále máte značnú kontrolu : aktivita vygenerovaná pomocou aplikácie Gemini sa automaticky vymaže po 18 mesiacoch, pokiaľ toto obdobie nezmeníte. Môžete ho upraviť na 3 alebo 36 mesiacov, alebo dokonca nastaviť, aby sa automaticky nevymazávalo. A čo je najdôležitejšie, môžete kedykoľvek prejsť do sekcie „Aktivita v aplikáciách Gemini“, kde si môžete skontrolovať, odstrániť konkrétne položky alebo úplne vypnúť možnosť ukladania aktivity.

Keď je nastavenie „Ukladať aktivitu“ vypnuté

Ak sa rozhodnete vypnúť ukladanie aktivít v aplikácii Gemini, vaše budúce konverzácie už nebudú spojené s vašou históriou a nebudú použité na trénovanie modelov umelej inteligencie spoločnosti Google, pokiaľ výslovne neodošlete spätnú väzbu.

Napriek tomu si Google z technických a bezpečnostných dôvodov uchováva konverzácie 72 hodín . Toto krátke obdobie umožňuje službe Gemini zabezpečiť kontinuitu v odpovediach, spracovať vaše komentáre a chrániť službu detekciou zneužitia alebo škodlivej aktivity.

Pri deaktivácii ukladania aktivít je potrebné mať na pamäti niekoľko dôležitých nuancií :

• Staré konverzácie, ktoré už boli skontrolované poskytovateľmi služieb, sa neodstránia.pretože sú uložené bez prepojenia s vaším účtom Google. Tieto údaje sa uchovávajú až 3 roky.
• Niektoré pripojené aplikácie už nebudú k dispozícii Ak je toto nastavenie vypnuté, je to preto, že na fungovanie integrovaným spôsobom potrebujú prístup k vašej histórii alebo údajom.
• Ďalšie ovládacie prvky od Googlu, ako napríklad „Aktivita na webe a v aplikáciách“ alebo „História polohy“Môžu naďalej ukladať údaje o prehliadaní a polohe odvodené z iných služieb (vyhľadávania, Mapy atď.), a to aj v prípade, že máte obmedzené aktivity služby Gemini.
• Pripojené aplikácie alebo externé služby, ktoré interagujú s Gemini, si uchovávajú prijaté údaje. v súlade s ich vlastnými zásadami ochrany osobných údajov. Ak vymažete konverzáciu v informačnom kanáli aktivít služby Gemini, neznamená to, že sa vymažú aj informácie, ktoré už boli do týchto služieb odoslané.

Stručne povedané, vypnutie funkcie „Ukladať aktivitu“ znižuje dlhodobý záznam vašich konverzácií s Gemini , ale nerobí celý zážitok anonymným. Je to odporúčaný krok, ak je pre vás súkromie prioritou, za predpokladu, že akceptujete obmedzenia, ktoré to môže klásť na niektoré funkcie alebo integrácie.

Odporúčané ovládacie prvky ochrany osobných údajov v aplikácii a ekosystéme Gemini

Gemini nie je len pre Chrome: je dostupný aj pre Android, web a je prepojený s ďalšími službami Google . Ak chcete správne chrániť svoje osobné údaje, oplatí sa skontrolovať niekoľko ďalších nastavení, ktoré majú veľký význam. Pozrite si napríklad rozšírenia, ako je rozšírenie na filtrovanie obsahu generovaného umelou inteligenciou , ktoré vám môže pomôcť filtrovať to, čo vidíte v prehliadači.

1. Vypnite rozšírenie Google Workspace v aplikácii Gemini

Ak používate Disk Google, Dokumenty, Tabuľky alebo akýkoľvek iný nástroj Workspace , možno nebudete chcieť, aby mal Gemini priamy prístup k týmto dokumentom, aj keď Google zaručuje, že ich nepoužíva na trénovanie modelov bez vášho súhlasu.

Ak chcete nastaviť jasnú hranicu, vypnite rozšírenie Google Workspace v aplikácii Gemini :

• Otvorte aplikáciu Gemini na svojom mobile alebo vo webovej verzii.
• Klepnite na svoj profilový obrázok a prejdite na „Rozšírenia“.
• Vyhľadajte možnosť „Google Workspace“ a vypnite ju.

Táto zmena bráni umelej inteligencii v priamom čítaní osobných alebo profesionálnych dokumentov , čo je obzvlášť dôležité, ak spravujete dôverné informácie, údaje o zákazníkoch alebo citlivé zmluvy.

2. Obmedzte prístup k inteligentným zariadeniam

Ak máte prepojenú domácnosť s kamerami, reproduktormi, inteligentnými žiarovkami alebo zástrčkami , Gemini môže byť schopný s týmito zariadeniami interagovať prostredníctvom rozšírení ovládania.

Ak chcete znížiť riziko neoprávneného prístupu, skontrolujte rozšírenie správy zariadení v aplikácii Gemini:

• Otvorte Gemini a vráťte sa do časti „Rozšírenia“.
• Vyhľadajte možnosť „Ovládanie zariadení“ alebo niečo podobné..
• Deaktivujte ho, ak nechcete, aby Gemini spravoval vaše domáce spotrebiče.

Toto má zmysel nielen z hľadiska súkromia, ale aj z hľadiska fyzickej bezpečnosti : minimalizujete tak možnosť, že zlá konfigurácia alebo chyba by mohla umožniť akcie vo vašej domácnosti bez jasného dohľadu.

3. Zakážte zaznamenávanie aktivít Gemini z aplikácie

Okrem prehliadača Chrome ukladá Google históriu interakcií s asistentom Gemini v špeciálnej sekcii vášho účtu s názvom „Aktivita aplikácií Gemini“. Táto sekcia zhromažďuje konverzácie, príkazy a ďalšie údaje, ktoré asistent používa na učenie a prispôsobenie odpovedí.

Ak sa chcete vyhnúť tomuto neustálemu ukladaniu, môžete ho úplne zastaviť priamo v aplikácii :

• Otvorte Gemini a klepnite na svoj profilový obrázok.
• Prejdite do časti „Aktivita aplikácií Gemini“.
• V rozbaľovacej ponuke nastavení vyberte možnosť „Zakázať“.

Týmto spôsobom výrazne obmedzíte množstvo údajov, ktoré Google ukladá o vašich konverzáciách s umelou inteligenciou . Stále bude existovať krátka technická doba uchovávania (72 hodín), aby systém fungoval, ale tieto informácie sa už nebudú hromadiť vo vašej dlhodobej histórii.

4. Zablokujte prístup aplikácie Gemini k vašim osobným údajom z iných aplikácií

Gemini dokáže využiť informácie z iných služieb Google (Gmail, Kalendár, nedávne polohy atď.), aby vám poskytol personalizovanejšie odpovede, čo je niekedy veľmi užitočné, ale aj dosť rušivé.

Ak nechcete, aby umelá inteligencia prehľadávala vaše e-maily , udalosti alebo históriu cestovania , môžete zakázať používanie starších možností Asistenta Google:

• Otvorte aplikáciu Gemini.
• Klepnite na svoj profilový obrázok a prejdite na „Nastavenia“.
• Prístup k „Možnostiam Asistenta Google v aplikácii Gemini“.
• Vypnite možnosť „Používať možnosti Asistenta Google“.

Tým sa preruší prepojenie medzi Gemini a mnohými zdrojmi osobných údajov, ktoré klasický Asistent používal na poskytovanie personalizovaných výsledkov. Stratíte síce určité pohodlie, ale získate pokoj v duši.

5. V rozhovoroch s umelou inteligenciou sa vyhýbajte citlivým témam

Aj pri maximálnom nastavení súkromia je vždy dobré používať zdravý rozum . Žiadny asistent s umelou inteligenciou nie je vhodným miestom na zdieľanie hesiel, bankových údajov, vysoko citlivých zdravotných informácií alebo údajov, ktoré by mohli ohroziť vašu fyzickú bezpečnosť.

Všeobecným odporúčaním je brať konverzácie s Gemini ako potenciálne verejné : najlepšie je nehovoriť nič, čo by ste sa necítili pohodlne zdieľať na dôveryhodnom online formulári. Takto bude vplyv na vaše súkromie oveľa menší, aj keby sa v budúcnosti niečo pokazilo alebo sa zmenia pravidlá.

Ako administrátor riadi používanie prehliadača Gemini v prehliadači Chrome?

V podnikovom alebo vzdelávacom prostredí zohrávajú administrátori služby Google Workspace kľúčovú úlohu pri rozhodovaní o tom, kto môže používať Gemini, ako sa ukladá história konverzácií a do akej miery je Gemini v rámci organizácie povolený v prehliadači Chrome.

Aktivácia alebo deaktivácia aplikácie Gemini pre používateľov

Z konzoly Google Admin môže administrátor zapnúť alebo vypnúť službu Gemini globálne alebo podľa organizačnej jednotky. Všeobecný pracovný postup je:

• Prístup k administračnej konzole.
• Prejdite do ponuky „Generatívne umelé inteligencie > Aplikácia Gemini“.
• Prejdite do sekcie „Stav služby“.
• Nakonfigurujte, či je služba povolená alebo zakázaná pre všetkých alebo pre konkrétne skupiny.

Existuje tiež možnosť povoliť všetkým používateľom prístup k aplikácii Gemini bez ohľadu na ich licenciu začiarknutím políčka „Povoliť všetkým používateľom prístup k aplikácii Gemini bez ohľadu na licenciu“. Toto je možné použiť v testovacích scenároch alebo pri postupnom zavádzaní.

Zmeny stavu služby nie sú okamžité : podľa spoločnosti Google môže ich šírenie trvať až 24 hodín, hoci často sa implementujú aj rýchlejšie. Toto by sa malo zohľadniť pred oznámením nových funkcií tímu.

Ovládajte históriu chatu Gemini

Jedným z najcitlivejších nastavení pre firmy je história konverzácií . Z konzoly môže administrátor pristupovať k sekcii „História konverzácií Gemini“ a rozhodnúť sa, ako sa s týmto aspektom bude zaobchádzať.

Základné možnosti zahŕňajú povolenie alebo zakázanie histórie pomocou zaškrtávacieho políčka „Povoliť históriu konverzácií Gemini“. Ak je toto políčko povolené, môžete nakonfigurovať automatické obdobie uchovávania konverzácií na 3, 18 alebo 36 mesiacov (predvolená hodnota je 18 mesiacov).

Zakázanie histórie znižuje množstvo uložených konverzačných informácií , čo je vhodnejšie pre organizácie, ktoré podliehajú prísnym predpisom o ochrane súkromia, alebo pre tie, ktoré chcú jednoducho minimalizovať riziko. To však vedie k strate niektorých dlhodobých možností kontinuity a personalizácie.

Dokončenie zmien v tejto konfigurácii môže trvať až 48 hodín , preto je vhodné ich interne naplánovať a komunikovať, najmä ak ovplyvňujú pracovné postupy založené na intenzívnom využívaní umelej inteligencie.

Zakážte iba Gemini v prehliadači Chrome pomocou pravidiel prehliadača Chrome Enterprise

Niektoré organizácie chcú naďalej používať aplikáciu Gemini a jej webovú a mobilnú verziu, ale nechcú povoliť Gemini v prehliadači Chrome kvôli dodatočnému kontextu potrebnému na zobrazenie toho, čo sa deje v prehliadači.

V týchto prípadoch môžete v prehliadači Chrome Enterprise použiť zásadu „GeminiSettings“ , ktorá vám umožňuje deaktivovať aplikáciu Gemini iba v prehliadači Chrome a zároveň zachovať prístup k aplikácii v iných prostrediach. To zabráni používateľom mať asistenta vloženého do prehliadača, ale umožňuje im naďalej kontrolovanejšie používať aplikáciu Gemini v iných prostrediach.

Je dôležité si uvedomiť certifikácie zhody, ktoré Gemini v prehliadači Chrome zatiaľ nepodporuje , ako napríklad HIPAA (BAA), rôzne štandardy SOC, najbežnejšie normy ISO pre bezpečnosť a súkromie, FedRAMP High a BSI C5:2020. Pre klientov s podpísanými BAA je Gemini v prehliadači Chrome automaticky blokovaný, aby sa predišlo porušovaniu zdravotníckych predpisov USA, a pre reštriktívnejšie prostredia by sa mali zvážiť alternatívy, ako napríklad Private AI Compute.

Bezpečnostné filtre rozhrania Gemini API: ako upraviť úroveň rizika

Ak okrem používania Gemini v prehliadači Chrome vyvíjate aj aplikácie, ktoré využívajú rozhranie Gemini API , máte k dispozícii ďalšiu vrstvu zabezpečenia a ochrany súkromia: filtre škodlivého obsahu. Tieto ovládacie prvky vám umožňujú obmedziť typy odpovedí, ktoré môže model generovať vo vašom produkte.

Dostupné kategórie zabezpečenia

Rozhranie Gemini API definuje niekoľko kategórií potenciálneho poškodenia , ktoré zodpovedajú typu obsahu, ktorý chcete blokovať alebo povoliť. Hlavné sú:

Kategórie	popis
obťažovanie	Agresívne alebo škodlivé komentáre namierené proti jednotlivcom alebo skupinám, najmä ak ovplyvňujú chránené identity alebo atribúty.
Podnecovanie k nenávisti alebo násiliu	Urážlivý, hrubý alebo obscénny obsah a správy, ktoré môžu podnecovať násilie alebo diskrimináciu voči určitým skupinám.
explicitný sexuálny obsah	Odkazy na sexuálne akty alebo jasne pornografický či obscénny materiál.
Nebezpečné	Obsah, ktorý propaguje, uľahčuje alebo nabáda k škodlivým alebo nezákonným aktivitám.
Občianska integrita	Dotazy týkajúce sa volieb, občianskych procesov a citlivých politických otázok (najmä v predchádzajúcich modeloch, ako napríklad PaLM 2).

V súčasných modeloch Gemini sú ako konfigurovateľné filtre podporované iba niektoré z týchto kategórií : obťažovanie, nenávistné prejavy, sexuálne explicitný obsah a nebezpečný obsah. Iné, špecifickejšie kategórie sa stále používajú v starších modeloch, ako napríklad PaLM 2.

Okrem týchto nastaviteľných filtrov existujú aj vstavané ochrany, ktoré nemožno deaktivovať , napríklad tie, ktoré sa týkajú bezpečnosti detí a iných foriem extrémneho poškodenia. Tento obsah je vždy blokovaný bez ohľadu na zvolené nastavenia.

Úrovne pravdepodobnosti a prahy blokovania

Rozhranie API vyhodnocuje všetok prichádzajúci a odchádzajúci obsah a klasifikuje pravdepodobnosť jeho nebezpečnosti do štyroch úrovní: VYSOKÁ, STREDNÁ, NÍZKA a ZANEDBAĽNÁ. Kľúčové je, že systém sa rozhodne blokovať na základe pravdepodobnosti, nie vnímanej závažnosti poškodenia.

To znamená, že zdanlivo neškodné frázy môžu byť s vysokou pravdepodobnosťou klasifikované ako škodlivé a naopak. Napríklad frázy „Robot ma udrel“ by mohli byť v niektorých kontextoch označené ako pravdepodobnejšie škodlivé ako „Robot ma bodol“, aj keď tie druhé znie násilnejšie. Preto je nevyhnutné dôkladne otestovať konfiguráciu pred jej nasadením do produkčného prostredia (a použiť automatizované testovanie modelov umelej inteligencie ).

Pre každú kategóriu môžete nastaviť prah blokovania pomocou hodnôt, ako napríklad:

Prahová hodnota (Google AI Studio)	Prahová hodnota (API)	popis
deaktivovaný	OFF	Na túto kategóriu sa nevzťahuje žiadny bezpečnostný filter.
Neblokovať	BLOCK_NONE	Vždy povoľte obsah bez ohľadu na pravdepodobnosť poškodenia.
Blok malý	IBA_BLOK_VYSOKÁ	Blokuje sa iba vtedy, keď je vysoká pravdepodobnosť jeho škodlivosti.
Zablokovať niečo	BLOK_STREDNÝ_A_NAD_VYŠŠIE	Blokuje, keď je pravdepodobnosť stredná alebo vysoká.
Blokovať väčšinu	BLOK_NÍZKO_A_NAD_HORE	Všetok obsah s nízkou, strednou alebo vysokou pravdepodobnosťou je blokovaný.
N / A	NEŠPECIFIKOVANÝ_PRAH_BLOKOVANIA_HARM_THRESHOLD	Použije sa predvolená prahová hodnota modelu.

Ak nezadáte prahové hodnoty, najnovšie všeobecne dostupné modely zvyčajne predvolene používajú nastavenie „Neblokovať“ , zatiaľ čo iné modely používajú ako štandardné nastavenie nastavenie „Blokovať niečo“. Kategória „Občianska integrita“ sa zaobchádza odlišne, pričom v niektorých modeloch sú prahové hodnoty vyššie na obmedzenie politicky citlivého obsahu.

Praktický príklad : ak vytvárate dialógy pre videohru s mierne agresívnym jazykom, možno budete chcieť povoliť viac obsahu kategorizovaného ako nebezpečný alebo obsahujúci mierne obťažovanie, ale zachovať prísne filtre pre explicitný nenávistný alebo sexuálny obsah. Úpravou prahových hodnôt pre každú kategóriu môžete dosiahnuť túto rovnováhu bez toho, aby ste otvorili dvere vážnemu zneužívaniu.

Konfigurácia na požiadanie a bezpečnostná spätná väzba

Ďalšou výhodou rozhrania Gemini API je, že nastavenia zabezpečenia je možné konfigurovať na požiadanie . Nepotrebujete jednu statickú konfiguráciu pre celú aplikáciu; filtre môžete sprísniť alebo uvoľniť v závislosti od aktuálnej fázy, v ktorej sa používateľ v používateľskom toku nachádza.

Keď voláte generateContent, odpoveď obsahuje bezpečnostné informácie vo forme GenerateContentResponse so špecifickými poľami:

• výzvaSpätná väzbaToto zhromažďuje bezpečnostnú spätnú väzbu o vstupnej správe (čo používateľ zadal). Ak má promptFeedback.blockReason hodnotu, znamená to, že výzva bola z bezpečnostných dôvodov zablokovaná.
• Candidate.finishReason a Candidate.safetyRatingsTieto popisujú, prečo bol kandidát odpovede zastavený a aké bezpečnostné hodnotenia boli použité. Ak je finishReason nastavené na SAFETY, výstup bol zablokovaný a môžete skontrolovať safetyRatings, aby ste zistili, do ktorej kategórie patrí a aká je pravdepodobnosť jeho zablokovania.

Táto spätná väzba je veľmi užitočná na ladenie aplikácie, úpravu prahových hodnôt a transparentné zaznamenávanie, prečo sa určitý obsah nezobrazoval koncovým používateľom, čo je vzhľadom na reguláciu umelej inteligencie čoraz dôležitejšie.

Úprava filtrov v Google AI Studio a v SDK

Ak pred kódovaním pracujete v Google AI Studio , máte k dispozícii grafické rozhranie na úpravu týchto nastavení bez písania akéhokoľvek kódu. Na paneli „Nastavenia behu“ môžete kliknúť na „Upraviť nastavenia zabezpečenia“ a spravovať posuvníky podľa kategórie.

V AI Studio nemôžete úplne vypnúť zabezpečenie , ale môžete znížiť úroveň na „Neblokovať“ v konkrétnej kategórii. Keď to urobíte, nástroj zobrazí pripomienku o zmluvných podmienkach rozhrania Gemini API, pretože projekty s menej obmedzujúcimi nastaveniami môžu byť predmetom ďalšieho preskúmania.

Keď odošlete požiadavku z AI Studio a obsah je zablokovaný , vedľa ikony upozornenia sa zobrazí správa „Žiadny obsah“. Podržaním kurzora myši nad ňou a kliknutím na tlačidlo „Zabezpečenie“ sa zobrazí, ktorý filter bol spustený, čo vám pomôže replikovať konfiguráciu v súpravách SDK.

V oficiálnych súpravách API SDK (napríklad vo volaniach funkcie GenerateContent) môžete konfigurovať nastavenia zabezpečenia pomocou parametrov, ktoré určujú kategóriu poškodenia (napríklad HARM_CATEGORY_HARASSMENT alebo HARM_CATEGORY_HATE_SPEECH) a prahovú hodnotu (napríklad BLOCK_LOW_AND_ABOVE na blokovanie akejkoľvek pravdepodobnosti inej ako zanedbateľnej). Úpravou týchto hodnôt pre každý koncový bod alebo trasu vo vašej aplikácii môžete rozlišovať medzi tolerantnejšími sekciami (napríklad interné testovacie nástroje) a verejne orientovanými sekciami s prísnejšími filtrami.

Ako odporúčané ďalšie kroky spoločnosť Google navrhuje preštudovať si kompletnú referenciu rozhrania API , dokumentáciu k HarmBlockThreshold a bezpečnostné pokyny LLM, ako aj doplnkové nástroje, ako napríklad rozhranie Perspective API, ktoré možno použiť na vytvorenie klasifikátorov toxicity podporovaných týmito konfiguráciami.

Celý tento rámec nastavení a ovládacích prvkov vám umožňuje využívať Gemini v prehliadači Chrome a rozhraní API bez toho, aby ste ohrozili bezpečnosť a súkromie: môžete sa rozhodnúť, koľko chcete, aby sa od vás umelá inteligencia učila, aké údaje sa smú zdieľať, aký typ obsahu bude vaša aplikácia tolerovať a ako dlho sa budú konverzácie uchovávať. S trochou počiatočného nastavenia a trochou zdravého rozumu si môžete užívať výhody umelej inteligencie bez toho, aby ste nechali svoje údaje odhalené.