Kaip konfigūruoti „Gemini“ saugumą ir privatumą „Chrome“ naršyklėje

Informatec Digital » Ištekliai » Kaip konfigūruoti „Gemini“ saugumą ir privatumą „Chrome“ naršyklėje

Jei nerimaujate dėl privatumo, bet nenorite atsisakyti dirbtinio intelekto teikiamų privalumų , svarbiausia išmokti tinkamai konfigūruoti „Gemini“ naršyklėje „Chrome“ ir kitose susijusiose paslaugose. Šiame vadove žingsnis po žingsnio parodysime, kokie duomenys saugomi, kaip jie naudojami, kokius valdiklius galite naudoti kaip „Google Workspace“ naudotojas ir administratorius ir kaip tiksliai suderinti „Gemini“ API saugos filtrus, kad sumažintumėte riziką sudėtingesniuose projektuose.

Kas yra „Gemini“ naršyklėje „Chrome“ ir kodėl tai veikia jūsų privatumą?

„Gemini“ naršyklėje „Chrome“ yra tiesioginė „Google“ dirbtinio intelekto asistento integracija į naršyklę , pasiekiama per kibirkšties piktogramą viršuje. Šiame šoniniame skydelyje galite užduoti klausimus apie atidarytą puslapį, prašyti santraukų ar paaiškinimų arba įjungti „Gemini Live“ balso režimą, kad galėtumėte kalbėtis su asistentu realiuoju laiku.

Kad visa tai veiktų, „Gemini“ reikia prieigos prie tam tikro konteksto : peržiūrimo skirtuko turinio, naršyklės kalbos, kai kuriais atvejais mikrofono ir, priklausomai nuo jūsų nustatymų, kai kurios naršymo veiklos. Čia praverčia saugumo ir privatumo valdikliai: jei paliksite numatytuosius nustatymus, gali būti išsaugota daugiau informacijos, nei norėtumėte.

Pati „Google“ pristato „Gemini“ „Chrome“ naršyklėje kaip žingsnį link „ DI agentų “ – tai yra asistentų, gebančių suprasti, kas vyksta ekrane, susieti informaciją iš kelių puslapių ir ateityje netgi atlikti veiksmus už jus (pildyti formas, palyginti produktus ir pan.). Kuo daugiau autonomijos, tuo svarbiau tampa labai aiškiai suprasti, kas saugoma, kiek laiko ir kokiu tikslu.

Pagrindiniai „Gemini“ reikalavimai ir aktyvinimas „Chrome“ naršyklėje

Prieš pasineriant į privatumo nustatymus, verta peržiūrėti minimalius „Gemini“ naudojimo „Chrome“ naršyklėje su standartinėmis „Google Workspace“ įmonės apsaugos priemonėmis reikalavimus. Tai padės suprasti, kodėl kartais nematote šios funkcijos pasiekiamos.

Organizacijų (įmonių ar švietimo aplinkos) naudotojams „Gemini“ naršyklėje „Chrome“ pagal numatytuosius nustatymus pasiekiama, jei jūsų paskyra turi prieigą prie „Gemini“ programėlės ir jūsų „Google Workspace“ leidimas yra tarp palaikomų. Be to, „Google“ reikalauja, kad naudotojas:

• Būkite prisijungę prie „Chrome“ naudodami savo paskyrą (dažniausiai iš „Workspace“) iš Jungtinių Amerikos Valstijų.
• Būti vyresniam nei 18 metų.
• Naudoti anglų kalbą kaip pagrindinę „Chrome“ kalbą (bent jau pradiniame diegimo etape).
• Naršykite sistemoje „Windows“, „macOS“ arba „iOS“ (Suderinamumas su kitomis sistemomis gali būti pasiektas vėliau).

Asmeniniu lygmeniu integracija paprastai atsiranda palaipsniui stabilioje „Chrome“ versijoje arba beta / kūrėjų / „Canary“ kanaluose, o parinktys pateikiamos nustatymų meniu tokiuose skyriuose kaip „DI naujovės“ arba „DI naršyklėje „Chrome“. Jei nematote kibirkšties piktogramos, gali tekti atnaujinti naršyklę arba ši funkcija dar gali būti nepasiekiama jūsų regione ar kalba.

Pradinė sąranka atliekama naršyklės nustatymuose : suaktyvinus „Gemini“ „Chrome“ naršyklėje, viršutinėje juostoje pamatysite kibirkšties mygtuką. Ten galite paleisti sąrankos vedlį, suteikti konkrečius leidimus (pvz., prieigą prie mikrofono) ir palaipsniui koreguoti prieigos prie svetainės turinio lygį.

„Gemini“ ir jūsų duomenys: kas saugoma ir kaip jie naudojami

„Gemini“ privatumo esmė slypi „Gemini“ programėlių parinktyje „Išsaugoti veiklą“. Šis nustatymas lemia, ar pokalbiai ir turinys, kuriuo dalijatės su dirbtiniu intelektu, bus saugomi jūsų „Google“ paskyroje vidutinės trukmės ir ilguoju laikotarpiu, ar, priešingai, jie bus saugomi tik labai trumpą laiką, kad paslauga veiktų.

Kai įjungtas nustatymas „Išsaugoti veiklą“

Jei veiklos išsaugojimo parinktis paliks įjungta, dauguma jūsų sąveikų su „Gemini“ bus saugomos „Gemini“ programėlės veiklos istorijoje. Tai apima:

• Pokalbiai ir tekstinės žinutės kuriuos siunčiate į „Gemini“ iš „Chrome“ arba iš programėlės.
• Failai, vaizdo įrašai, ekrano kopijos ir nuotraukos kuriuos įkeliate arba bendrinate su asistentu.
• Garsas, įrašai ir transkriptai iš „Gemini Live“Tai yra, jūsų balso sąveika.
• Informacija apie svetaines, kurias lankote įjungę „Gemini“Produkto naudojimo modeliai ir vietos duomenys (bendra įrenginio vieta, IP adresas ir, kai kuriais atvejais, namų arba darbo adresai, susieti su jūsų „Google“ paskyra).

„Google“ naudoja šią įrašytą veiklą keliems tikslams : teikti jums paslaugą, ją tobulinti ir apmokyti generatyvinius dirbtinio intelekto modelius, taip pat aptikti piktnaudžiavimą ar elgesį, kuris galėtų pakenkti „Google“, jos naudotojams ar visuomenei. Tam ji pasitelkia žmonių recenzentų ir paslaugų teikėjų pagalbą.

Duomenys, kuriuos peržiūri žmogus, prieš juos analizuojant atskiriami nuo jūsų paskyros ir saugomi iki 3 metų. Be to, garso įrašai ir „Gemini Live“ duomenys pagal numatytuosius nustatymus nenaudojami „Google“ paslaugoms tobulinti, nebent jūs specialiai pasirinksite tai savo regione ir nustatymuose. Atsižvelgiant į jūsų pageidavimus ir geografinę vietą, dalis šios veiklos taip pat gali būti naudojama jūsų patirčiai suasmeninti.

Geros žinios yra tai, kad jūs vis dar turite nemažą kontrolę : „Gemini“ programoje sugeneruota veikla automatiškai ištrinama po 18 mėnesių, nebent pakeisite šį laikotarpį. Galite jį pakeisti į 3 arba 36 mėnesius arba netgi nustatyti, kad ji nebūtų automatiškai ištrinama. Svarbiausia, kad galite pasiekti skyrių „Veikla „Gemini“ programose“, kad peržiūrėtumėte, ištrintumėte konkrečius elementus arba visiškai išjungtumėte parinktį išsaugoti veiklą, kada tik panorėsite.

Kai nustatymas „Išsaugoti veiklą“ yra išjungtas

Jei nuspręsite išjungti „Gemini“ veiklos išsaugojimą, būsimi pokalbiai nebebus susieti su jūsų istorija ir nebus naudojami „Google“ dirbtinio intelekto modeliams mokyti, nebent pateiksite aiškų atsiliepimą.

Nepaisant to, dėl techninių ir saugumo priežasčių „Google“ pokalbius saugo 72 valandas . Šis trumpas laikotarpis leidžia „Gemini“ užtikrinti atsakymų tęstinumą, apdoroti jūsų komentarus ir apsaugoti paslaugą aptikdama netinkamą naudojimą ar kenkėjišką veiklą.

Išjungiant veiklos išsaugojimą, reikia nepamiršti kelių svarbių niuansų :

• Seni pokalbiai, kuriuos jau peržiūrėjo paslaugų teikėjai, neištrinami.nes jie saugomi nesusiejant su jūsų „Google“ paskyra. Šie duomenys saugomi iki 3 metų.
• Kai kurios prijungtos programėlės nebebus pasiekiamos Jei šis nustatymas išjungtas, tai reiškia, kad jiems reikia prieigos prie jūsų istorijos arba duomenų, kad jie veiktų integruotai.
• Kiti „Google“ valdikliai, pvz., „Žiniatinklio ir programų veikla“ arba „Vietovių istorija“Jie gali ir toliau saugoti naršymo ir vietos duomenis, gautus iš kitų paslaugų (paieškų, Žemėlapių ir kt.), net jei apribojote „Gemini“ veiklą.
• Prijungtos programos arba išorinės paslaugos, kurios sąveikauja su „Gemini“, išsaugo gautus duomenis. pagal jų pačių privatumo politiką. Jei ištrinsite pokalbį „Gemini“ veiklos sraute, tai nereiškia, kad bus ištrinta ir informacija, jau persiųsta į šias paslaugas.

Trumpai tariant, išjungus funkciją „Išsaugoti veiklą“ sumažinamas ilgalaikis jūsų pokalbių su „Gemini“ įrašas , tačiau visa patirtis nėra anoniminė. Tai rekomenduojamas žingsnis, jei privatumas jums yra prioritetas, su sąlyga, kad sutinkate su apribojimais, kuriuos tai gali sukelti kai kurioms funkcijoms ar integracijoms.

Rekomenduojami privatumo valdikliai „Gemini“ programėlėje ir ekosistemoje

„Gemini“ skirta ne tik „Chrome“: ji taip pat pasiekiama „Android“, žiniatinklyje ir prijungta prie kitų „Google“ paslaugų . Jei norite tinkamai apsaugoti savo asmeninę informaciją, verta peržiūrėti keletą papildomų nustatymų, kurie daro didelę įtaką. Pavyzdžiui, peržiūrėkite plėtinius, tokius kaip dirbtinio intelekto generuojamo turinio filtro plėtinys , kuris gali padėti filtruoti tai, ką matote naršyklėje.

1. Išjunkite „Google Workspace“ plėtinį „Gemini“ sistemoje

Jei naudojate „Google“ diską, dokumentus, skaičiuokles ar bet kurį kitą „Workspace“ įrankį , galite nenorėti, kad „Gemini“ turėtų tiesioginę prieigą prie šių dokumentų, net jei „Google“ užtikrina, kad nenaudoja jų modeliams mokyti be jūsų leidimo.

Norėdami nustatyti aiškią ribą, išjunkite „Google Workspace“ plėtinį „Gemini“ programėlėje :

• Atidarykite „Gemini“ programėlę savo mobiliajame arba žiniatinklio versijoje.
• Palieskite savo profilio nuotrauką ir eikite į „Plėtiniai“..
• Ieškokite parinkties „Google Workspace“ ir išjunkite ją.

Šis pakeitimas neleidžia dirbtiniam intelektui tiesiogiai skaityti asmeninių ar profesinių dokumentų , o tai ypač svarbu, jei tvarkote konfidencialią informaciją, klientų duomenis ar slaptas sutartis.

2. Apribokite prieigą prie išmaniųjų įrenginių

Jei turite prijungtus namus su kameromis, garsiakalbiais, išmaniosiomis lemputėmis ar kištukiniais lizdais , „Gemini“ gali sąveikauti su šiais įrenginiais per valdymo plėtinius.

Norėdami sumažinti neteisėtos prieigos riziką, peržiūrėkite įrenginių valdymo plėtinį „Gemini“ programėlėje:

• Atidarykite „Gemini“ ir grįžkite į „Plėtiniai“.
• Raskite parinktį „Įrenginio valdymas“ arba panašią..
• Išjunkite, jei nenorite, kad „Gemini“ valdytų jūsų buitinius prietaisus.

Tai prasminga ne tik privatumo, bet ir fizinio saugumo požiūriu : sumažinate tikimybę, kad dėl blogos konfigūracijos ar klaidos jūsų namuose bus galima atlikti veiksmus be aiškios priežiūros.

3. Išjunkite „Gemini“ veiklos registravimą programoje

Be „Chrome“, „Google“ saugo „Gemini“ sąveikos istoriją specialioje jūsų paskyros skiltyje, vadinamoje „Gemini“ programų veikla. Šioje skiltyje renkami pokalbiai, komandos ir kiti duomenys, kuriuos asistentas naudoja atsakymams mokytis ir suasmeninti.

Jei norite išvengti šio nuolatinio saugojimo, galite jį visiškai sustabdyti pačioje programėlėje :

• Atidarykite „Gemini“ ir palieskite savo profilio nuotrauką.
• Eikite į „Dvynių programų veikla“.
• Išskleidžiamajame nustatymų meniu pasirinkite „Išjungti“.

Taip darydami, jūs gerokai apribojate duomenų, kuriuos „Google“ saugo apie jūsų pokalbius su dirbtiniu intelektu, kiekį . Vis tiek bus taikomas trumpas techninis saugojimo laikotarpis (72 valandos), kad sistema veiktų, tačiau ši informacija nebebus kaupiama jūsų ilgalaikėje istorijoje.

4. Užblokuokite „Gemini“ prieigą prie jūsų asmeninių duomenų iš kitų programų

„Gemini“ gali panaudoti informaciją iš kitų „Google“ paslaugų („Gmail“, Kalendoriaus, neseniai aplankytų vietų ir kt.), kad pateiktų jums labiau suasmenintus atsakymus, o tai kartais yra labai naudinga, bet kartu ir gana įkyru.

Jei nenorite, kad dirbtinis intelektas ieškotų jūsų el. laiškuose , įvykiuose ar kelionių istorijoje , galite išjungti senesnių „Google Assistant“ parinkčių naudojimą:

• Atidarykite programą „Gemini“.
• Palieskite savo profilio nuotrauką ir eikite į „Nustatymai“.
• Pasiekite „Google Assistant“ parinktis „Gemini“ sistemoje.
• Išjunkite parinktį „Naudoti „Google Assistant“ parinktis“.

Tai nutraukia ryšį tarp „Gemini“ ir daugelio asmeninių duomenų šaltinių, kuriuos klasikinis asistentas naudojo suasmenintiems rezultatams pateikti. Prarasite dalį patogumo, bet įgysite ramybės.

5. Pokalbiuose su dirbtiniu intelektu venkite jautrių temų

Net ir esant maksimaliems privatumo nustatymams, visada pravartu vadovautis sveiku protu . Joks dirbtinio intelekto asistentas nėra tinkama vieta bendrinti slaptažodžius, banko duomenis, itin slaptą medicininę informaciją ar informaciją, kuri galėtų pakenkti jūsų fiziniam saugumui.

Bendra rekomendacija – pokalbius su Dvyniais laikyti potencialiai viešais : geriausia nesakyti nieko, kuo nesijaučiate patogiai dalydamiesi patikimoje internetinėje formoje. Tokiu būdu, net jei ateityje kas nors nutiks ne taip ar pasikeis politika, poveikis jūsų privatumui bus daug mažesnis.

Kaip administratorius kontroliuoja „Gemini“ naudojimą „Chrome“ naršyklėje?

Verslo ar švietimo aplinkoje „Google Workspace“ administratoriai atlieka pagrindinį vaidmenį sprendžiant, kas gali naudoti „Gemini“, kaip išsaugoma pokalbių istorija ir kokiu mastu „Gemini“ įgalinama „Chrome“ naršyklėje organizacijoje.

Įjungti arba išjungti „Gemini“ programėlę vartotojams

„Google“ administratoriaus konsolėje administratorius gali įjungti arba išjungti „Gemini“ paslaugą visame pasaulyje arba pagal organizacinį vienetą. Bendra darbo eiga yra tokia:

• Pasiekite administravimo konsolę.
• Eikite į meniu „Generative AI > Gemini programėlė“..
• Įveskite skyrių „Paslaugos būsena“.
• Konfigūruokite, ar paslauga įjungta, ar išjungta visiems, ar tik tam tikroms grupėms.

Taip pat yra parinktis leisti visiems vartotojams pasiekti „Gemini“ programėlę, nepriklausomai nuo jų licencijos , pažymint langelį „Leisti visiems vartotojams pasiekti „Gemini“ programėlę, nepriklausomai nuo licencijos“. Tai galima naudoti bandymų scenarijuose arba laipsniškame diegime.

Paslaugos būsenos pakeitimai neįsigalioja akimirksniu : „Google“ teigimu, jų įsigaliojimas gali užtrukti iki 24 valandų, nors dažnai jie įgyvendinami greičiau. Į tai reikėtų atsižvelgti prieš skelbiant komandai apie naujas funkcijas.

Valdykite „Gemini“ pokalbių istoriją

Vienas jautriausių nustatymų įmonėms yra pokalbių istorija . Konsolėje administratorius gali pasiekti skyrių „Gemini pokalbių istorija“ ir nuspręsti, kaip šis aspektas turi būti tvarkomas.

Pagrindinės parinktys apima istorijos įjungimą arba išjungimą naudojant žymimąjį langelį „Įjungti „Gemini“ pokalbių istoriją“. Jei įjungta, galite sukonfigūruoti automatinį pokalbių saugojimo laikotarpį – 3, 18 arba 36 mėnesius (numatytasis yra 18 mėnesių).

Išjungus istoriją sumažėja saugomos pokalbių informacijos kiekis , o tai labiau tinka organizacijoms, kurioms taikomi griežti privatumo reglamentai, arba toms, kurios tiesiog nori sumažinti riziką. Tačiau dėl to prarandama dalis ilgalaikio tęstinumo ir suasmeninimo galimybių.

Šios konfigūracijos pakeitimai gali užtrukti iki 48 valandų , todėl patartina juos planuoti ir apie juos pranešti viduje, ypač jei jie turi įtakos darbo eigoms, pagrįstoms intensyviu dirbtinio intelekto naudojimu.

Išjunkite tik „Gemini“ naršyklėje „Chrome“ naudodami „Chrome Enterprise“ politiką

Kai kurios organizacijos nori toliau naudoti „Gemini“ programėlę ir jos žiniatinklio bei mobiliąsias versijas, tačiau nenori leisti „Gemini“ naršyklėje „Chrome“, nes naršyklėje vykstančių veiksmų matymas reikalauja papildomo konteksto.

Tokiais atvejais „Chrome Enterprise“ naršyklėje galite naudoti politiką „GeminiSettings“ , kuri leidžia išjungti „Gemini“ tik „Chrome“ naršyklėje, išlaikant prieigą prie programos kitose aplinkose. Tai neleidžia vartotojams integruoti asistento naršyklėje, bet leidžia jiems toliau naudoti „Gemini“ labiau kontroliuojamu būdu kitose aplinkose.

Svarbu žinoti apie atitikties sertifikatus, kurių „Gemini in Chrome“ dar nepalaiko , pvz., HIPAA (BAA), įvairius SOC standartus, dažniausiai naudojamus saugumo ir privatumo ISO, „FedRAMP High“ ir BSI C5:2020. Klientams, turintiems pasirašytus BAA sertifikatus, „Gemini in Chrome“ automatiškai blokuojama, siekiant išvengti JAV sveikatos apsaugos reglamentų pažeidimų, o griežtesnėje aplinkoje reikėtų apsvarstyti alternatyvas, pvz., „Private AI Compute“ .

„Gemini API“ saugos filtrai: kaip koreguoti rizikos lygį

Jei be „Gemini“ naudojimo „Chrome“ naršyklėje kuriate programas, kurios naudoja „Gemini“ API , turite dar vieną saugumo ir privatumo apsaugos lygmenį: kenksmingo turinio filtrus. Šie valdikliai leidžia apriboti atsakymų, kuriuos modelis gali generuoti jūsų produkte, tipus.

Galimos saugumo kategorijos

„Gemini“ API apibrėžia kelias galimos žalos kategorijas , kurios atitinka turinio tipą, kurį norite blokuoti arba leisti. Pagrindinės iš jų yra šios:

Kategorija	aprašymas
Priekabiavimas	Agresyvūs ar žalingi komentarai, nukreipti į asmenis ar grupes, ypač kai jie paveikia saugomas tapatybes ar savybes.
Kurstymas neapykantai ar smurtui	Įžeidžiantis, grubus ar nepadorus turinys ir žinutės, kurios gali kurstyti smurtą ar diskriminaciją prieš tam tikras grupes.
atviro seksualinio turinio	Nuorodos į seksualinius veiksmus arba akivaizdžiai pornografinė ar nepadori medžiaga.
Pavojinga	Turinys, kuris skatina, palengvina arba skatina žalingą ar neteisėtą veiklą.
Pilietinis sąžiningumas	Užklausos, susijusios su rinkimais, pilietiniais procesais ir jautriais politiniais klausimais (daugiausia ankstesniuose modeliuose, tokiuose kaip PaLM 2).

Dabartiniuose „Gemini“ modeliuose tik kai kurios iš šių kategorijų palaikomos kaip konfigūruojami filtrai: priekabiavimas, neapykantos kurstymas, seksualiai atviras turinys ir pavojingas turinys. Kitos, konkretesnės kategorijos vis dar naudojamos senesniuose modeliuose, tokiuose kaip „PaLM 2“.

Be šių reguliuojamų filtrų, yra integruotų apsaugos funkcijų, kurių negalima išjungti , pavyzdžiui, susijusių su vaikų saugumu ir kita itin didele žala. Šis turinys visada blokuojamas, nepriklausomai nuo pasirinktų nustatymų.

Tikimybės lygiai ir blokavimo ribos

API įvertina visą gaunamą ir siunčiamą turinį, suskirstydama jo nesaugumo tikimybę į keturis lygius: AUKŠTĄ, VIDUTINĘ, ŽEMĄ ir NEPAVOJINGĄ. Svarbiausia, kad sistema nusprendžia blokuoti remdamasi tikimybe, o ne suvokiamu žalos sunkumu.

Tai reiškia, kad, atrodytų, nekenksmingos frazės gali turėti didelę tikimybę būti klasifikuojamos kaip kenksmingos ir atvirkščiai. Pavyzdžiui, „Robotas mane trenkė“ kai kuriuose kontekstuose gali būti pažymėta kaip labiau kenksminga nei „Robotas mane subadė“, net jei pastarasis skamba agresyviau. Štai kodėl labai svarbu kruopščiai išbandyti konfigūraciją prieš diegiant ją gamybinėje aplinkoje (ir taikyti automatinį dirbtinio intelekto modelių testavimą ).

Kiekvienai kategorijai galite nustatyti blokavimo slenkstį, naudodami tokias vertes kaip:

Slenkstis („Google AI Studio“)	Slenkstis (API)	aprašymas
Išjungta	išjungtas	Šiai kategorijai netaikomas joks saugumo filtras.
Neblokuoti	BLOCK_NONE	Visada leiskite turinį, nepaisant žalos tikimybės.
Blokuoti mažai	TIK AUKŠTAS BLOKAS	Jis blokuojamas tik tada, kai yra didelė tikimybė, kad jis bus žalingas.
Užblokuoti kažką	BLOCK_MEDIUM_AND_ABOVE	Jis blokuojamas, kai tikimybė yra vidutinė arba didelė.
Blokuoti daugumą	ŽEMIAUSIAS_BLOKAS_IR_AUKŠČIAU	Visas turinys, kurio tikimybė maža, vidutinė arba didelė, yra blokuojamas.
N / A	HARM_BLOCK_THRESHOLD_UNSPECIFIED	Taikoma numatytoji modelio riba.

Jei nenurodote slenksčių, naujausiuose visuotinai prieinamuose modeliuose pagal numatytuosius nustatymus paprastai naudojamas nustatymas „Neblokuoti“ , o kituose modeliuose standartinis nustatymas yra „Blokuoti ką nors“. Su kategorija „Pilietinis sąžiningumas“ elgiamasi kitaip – ​​kai kuriuose modeliuose taikomos aukštesnės ribos, siekiant apriboti politiškai jautrų turinį.

Praktinis pavyzdys : jei kuriate vaizdo žaidimo dialogą su gana agresyvia kalba, galite leisti daugiau turinio, priskirto pavojingam arba kuriame yra lengvas priekabiavimas, tačiau išlaikyti griežtus filtrus, skirtus atvirai neapykantos ar seksualiniam turiniui. Koreguodami kiekvienos kategorijos slenksčius, galite pasiekti šią pusiausvyrą neatverdami durų rimtam piktnaudžiavimui.

Konfigūravimas pagal užklausą ir saugumo atsiliepimai

Dar vienas „Gemini“ API privalumas yra tas, kad saugumo nustatymus galima konfigūruoti pagal poreikį . Jums nereikia vienos statinės konfigūracijos visai programai; galite sugriežtinti arba sušvelninti filtrus, atsižvelgdami į vartotojo dabartinį etapą vartotojo sraute.

Kai iškviečiate „generateContent“, atsakyme pateikiama saugumo informacija „GenerateContentResponse“ formatu su konkrečiais laukais:

• greitas atsiliepimasTai renka saugumo atsiliepimus apie įvesties pranešimą (ką vartotojas įvedė). Jei promptFeedback.blockReason turi reikšmę, tai reiškia, kad raginimas buvo užblokuotas dėl saugumo priežasčių.
• „Candidate.finishReason“ ir „Candidate.safetyRatings“Juose aprašoma, kodėl atsakymo kandidatas buvo sustabdytas ir kokie saugos įvertinimai jam buvo pritaikyti. Jei „finishReason“ yra SAFETY, išvestis buvo užblokuota, ir galite patikrinti safetyRatings, kad pamatytumėte, kuriai kategorijai ji priklauso ir kokia tikimybė, kad ji bus užblokuota.

Šis grįžtamasis ryšys yra labai naudingas derinant programą, koreguojant slenksčius ir skaidriai registruojant, kodėl tam tikras turinys nebuvo rodomas galutiniams vartotojams, o tai tampa vis svarbiau atsižvelgiant į dirbtinio intelekto reguliavimą.

Filtrų koregavimas „Google AI Studio“ ir SDK

Jei prieš programavimą dirbate „Google AI Studio“ , turite grafinę sąsają, kad galėtumėte koreguoti šiuos nustatymus nerašydami jokio kodo. Skydelyje „Vykdymo laiko nustatymai“ galite spustelėti „Redaguoti saugos nustatymus“ ir valdyti slankiklius pagal kategoriją.

„AI Studio“ programoje negalite visiškai išjungti saugumo , bet galite sumažinti lygį iki „Neblokuoti“ konkrečioje kategorijoje. Tai padarius, įrankis parodys priminimą apie „Gemini API“ paslaugų teikimo sąlygas, nes projektai su mažiau ribojančiais nustatymais gali būti papildomai peržiūrimi.

Kai siunčiate užklausą iš „AI Studio“ ir turinys užblokuojamas , šalia įspėjamosios piktogramos rodomas pranešimas „Nėra turinio“. Užvedus pelės žymeklį ant jos ir spustelėjus „Sauga“, parodoma, kuris filtras buvo suaktyvintas, o tai padeda atkartoti konfigūraciją SDK.

Oficialiuose API SDK (pvz., iškvietimuose į „GenerateContent“) galite konfigūruoti saugos nustatymus naudodami parametrus, kurie nurodo žalos kategoriją (pvz., HARM_CATEGORY_HARASSMENT arba HARM_CATEGORY_HATE_SPEECH) ir slenkstį (pvz., BLOCK_LOW_AND_ABOVE, kad būtų blokuojama bet kokia tikimybė, išskyrus nereikšmingą). Koreguodami šias vertes kiekvienam programos galiniam taškui arba maršrutui, galite atskirti liberalesnius skyrius (pvz., vidinius testavimo įrankius) nuo viešai prieinamų skyrių su griežtesniais filtrais.

Kaip rekomenduojamus tolesnius veiksmus „Google“ siūlo peržiūrėti visą API nuorodą , „HarmBlockThreshold“ dokumentaciją ir LLM saugumo gaires, taip pat papildomas priemones, tokias kaip „Perspective API“, kurias galima naudoti kuriant toksiškumo klasifikatorius, palaikomus šių konfigūracijų.

Visa ši nustatymų ir valdiklių sistema leidžia naudoti „Gemini“ naršyklėje „Chrome“ ir API nepakenkiant saugumui ir privatumui: galite nuspręsti, kiek norite, kad dirbtinis intelektas iš jūsų mokytųsi, kokius duomenis leidžiama bendrinti, kokio tipo turinį jūsų programa toleruos ir kiek laiko bus saugomi pokalbiai. Atlikę šiek tiek pradinių nustatymų ir pasinaudoję sveiku protu, galite mėgautis dirbtinio intelekto privalumais nepalikdami savo duomenų neatskleistinų.