- עוזרים וירטואליים אוספים ומעבדים כמויות גדולות של נתונים קוליים והקשריים, ויוצרים פרופילי משתמשים מפורטים.
- פרטיות מובנית, מזעור נתונים והצפנה הם המפתח להפחתת סיכונים ולעמידה בתקנת ה-GDPR ובתקנות אחרות.
- מקרים אמיתיים של דליפות והפעלות מקריות מראים את הצורך בשקיפות רבה יותר, בקרות ואפשרויות תצורה.
- משתמשים, חברות ומפתחים חולקים את האחריות להגנה על מידע אישי ולשימוש אחראי בטכנולוגיות אלו.
עוזרים וירטואליים חדרו לבתים שלנו, לטלפונים שלנו ואפילו למקומות העבודה שלנו, והביאו איתם שילוב של נוחות מדהימה ודאגות חמורות לפרטיות . אנחנו מבקשים מאלקסה להדליק את האורות, מסירי להזכיר לנו פגישות, או מגוגל אסיסטנט לקבלת הוראות הגעה, אבל אנחנו כמעט ולא חושבים מה קורה לכל המידע שאנחנו משאירים מאחור.
בינתיים, חברות ומפתחים בונים ממשקי שיחה חזקים יותר ויותר , החל מצ'אטבוטים לשירות לקוחות ועד לעוזרי בריאות ופיננסים . כל אלה ניזונים מנתונים אישיים, שחלקם הגדול רגיש ביותר, ופועלים במסגרת נוף המוסדר על ידי ה-GDPR, ה-LOPDGDD וחוקי פרטיות אחרים. כאן הדברים מסתבכים: כיצד נוכל ליהנות מהטכנולוגיות הללו מבלי לוותר על כל חיינו לענן?
מהם עוזרים וירטואליים ואיך הם עובדים בפועל?
עוזרות קוליות כמו אמזון אלקסה, אפל סירי, גוגל אסיסטנט וקורטנה הן מערכות המבוססות על בינה מלאכותית ועיבוד שפה טבעית (NLP) המאפשרות לך לשלוט במכשירים ובשירותים באמצעות קולך. הן נמצאות ברמקולים חכמים, סמארטפונים, מחשבים, מכוניות מחוברות ואפילו אינטרקומים.
פעולתה מסתמכת על שילוב של זיהוי דיבור, מודלים אקוסטיים, רשתות עצביות עמוקות ומחשוב ענן , אם כי קיימות חלופות מקומיות לבינה מלאכותית . ניתן להבין את זרימת העבודה האופיינית בכמה שלבים, אם כי כל ספק מיישם אותה בניואנסים משלו.
ראשית, המכשיר נמצא במה שנקרא מצב האזנה פסיבית או מצב המתנה . הוא לא שולח ברציפות את כל האודיו של החדר לענן, אבל הוא כן שומר על המיקרופון פעיל כדי לזהות את מילת ההשכמה: "היי סירי", "אוקיי גוגל", "אלקסה"... או כל פקודה מתאימה לכל מערכת אקולוגית.
כדי לזהות את מילת ההשכמה, העוזרים מפעילים אלגוריתמים מקומיים שמשווים את הצליל שנקלט עם דפוסים אקוסטיים המאוחסנים במכשיר עצמו. כאשר הם קובעים שיש התאמה מספקת, העוזר מופעל, ומנקודה זו ואילך, הפקודה הקולית נשלחת בדרך כלל לענן לעיבוד.
לאחר קבלת פקודה, השרתים מיישמים מודלים אוטומטיים של זיהוי דיבור (בהשראת טכניקות כמו מודלי מרקוב נסתרים וכיום משופרים על ידי רשתות עצביות ולמידה עמוקה) כדי להמיר את האודיו לטקסט ולהבין את כוונת המשתמש. על סמך זה, המערכת מבצעת את הפעולה המתאימה: חיפוש מידע, בדיקת מזג אוויר, הדלקת נורה חכמה, התחלת שיחה, ניהול לוח שנה או מענה לשאלה מורכבת.
במקביל, עוזרים רבים משתמשים בלמידת מכונה ובניתוח דפוסי קול כדי לשפר את הדיוק ולהתאים אישית את החוויה: זיהוי קולות שונים באותו בית, התאמת תגובות לכל משתמש, או התאמה טובה יותר של הזיהוי על סמך מבטא, גוון קול או מהירות דיבור.
קצת היסטוריה: מאודרי ועד אלכסה וחבריה
טכנולוגיית זיהוי קולי לא התחילה עם רמקולים חכמים; היא נמצאת בפיתוח כבר עשרות שנים. בתחילת שנות ה-50, מעבדות בל חשפו את "אודרי ", מערכת המסוגלת לזהות את המספרים 0 עד 9 בדיוק של כמעט 90%, אך רק כאשר הם נאמרים על ידי יוצרה. היא הייתה בסיסית, אך סימנה את תחילתה של שורת חדשנות מתמשכת.
בשנת 1961, IBM השיקה את Shoebox , מכונה שהבינה לא רק מספרים אלא גם פקודות בסיסיות, אפילו עם רעשי רקע ושינויים בגובה הצליל. במהלך שנות ה-70, פרויקטים כמו Hearsay-I, Dragon, ובמיוחד Harpy באוניברסיטת קרנגי מלון, עשו קפיצת מדרגה אדירה: Harpy יכלה לזהות קבוצות גדולות של מילים עם שיעורי דיוק שבין 83,5% ל-97,5%, והיא עשתה זאת עם מספר דוברים, דבר שהיה מרשים לאותה תקופה.
במקביל, נקבעו היסודות התיאורטיים של מודלי מרקוב נסתרים (HMM) , אשר נוצלו בשנות ה-80 הודות לשיפורים בכוח העיבוד של המחשב. זה אפשר למערכות קול להתחיל להסתגל טוב יותר לשינויים בדיבור האנושי.
בשנות ה-90, טכנולוגיות כמו DragonDictate הביאו זיהוי קולי למשתמש הממוצע בצורה של תוכנה מסחרית. משם, שילוב במכשירים ניידים, ואחריו התפרצות הבינה המלאכותית ומחשוב הענן, סללו את הדרך לעוזרות של ימינו כמו Alexa, Siri ו-Google Assistant, שהופכות טבעיות ותלויות בהקשר יותר ויותר.
כיום, המחקר מתמקד בתחומים כמו זיהוי דיבור רב-לשוני בזמן אמת, מותאם אישית ביותר , ניתוח הטון הרגשי של הדובר ומתן תמיכה מיידית לניבים של מיעוטים. ישנן אף הצעות לכך שמחשוב קוונטי יכול להאיץ עוד יותר תהליכים אלה, ולהשיג תגובות כמעט מיידיות בהקשרים מורכבים ביותר.
אילו נתונים אוספים עוזרים וירטואליים?
לנוחות של שיחה עם מכשיר יש מחיר: כמות עצומה של נתונים אישיים שמסתובבים בין המיקרופון, הענן ושירותים מרובים . עוזרים כמו סירי, אלקסה, גוגל אסיסטנט וקורטנה מופעלים באמצעות קול, מקליטים פקודות ושולחים אותן לשרתים לעיבוד. בדרך, הם לוכדים:
- הקלטות קול, כולל הפעלות מקריות וקטעי שיחה הסמוכים לפקודה.
- נתוני המכשירסוג מסוף, מערכת הפעלה, מזהים, כתובת IPהגדרות אזוריות וכו'.
- מידע על הקשרמיקום משוער או מדויק (בעת שימוש ב-GPS או Wi-Fi), היסטוריית חיפושים, הרגלים יומיומיים, שימוש באפליקציות.
- אנשי קשר, לוח שנה, תזכורות ושיחות, כאשר המשתמש העניק הרשאות אלה.
- העדפות אישיות והרגלי צריכה, מוסק משאילתות, רכישות מקושרות, מוזיקה שהאזנת, סדרות שנצפית וכו'.
- נתונים של צד שלישי שמדברים ליד המכשיר או מקיימים איתו אינטראקציה גם אם הם לא הבעלים.
כל הנתונים הללו משמשים לשיפור הדיוק, התאמה אישית של תגובות, אימון מודלים של בינה מלאכותית, ובמקרים רבים, הזנת מערכות מיקוד ופרופילציה של פרסום . אם לא מנוהלים כראוי, הסיכון לשימושים פולשניים או בלתי חוקיים לחלוטין ברור.
אחסון, עיבוד ויצירת פרופיל קולי
ברוב המקרים, נתוני קול לא נשארים רק ברמקול או בטלפון. קטעי אודיו נשלחים לשרתי ענן , שם הם מאוחסנים ומעובדים בפירוט רב. זה מאפשר לחברות טכנולוגיה לשפר באופן מתמיד את מודלי הזיהוי והביצועים של העוזרים שלהן, אבל זה גם פותח את הדלת לניתוח מעמיק מאוד של התנהגות המשתמש.
מערכות מודרניות לא רק מתמללות את מה שאנחנו אומרים. הן מנתחות מאפייני קול ייחודיים (גוון קולי, גובה צליל, קצב, אינטונציה) כדי לבנות פרופילים קוליים ייחודיים. ביומטריה קולית זו משמשת להבחנה בין משתמשים באותו משק בית, התאמה אישית של תגובות, או אפילו להציע רמת אימות מסוימת בשירותים רגישים, כגון בנקאות או שירותי בריאות.
היתרונות ברורים: העוזר יכול לזהות מי מדבר ולהתאים את החוויה, להמליץ על תוכן מותאם אישית, או להגיב בצורה שונה למבוגר ולילד. אך יחד עם זאת, חתימת קול זו יכולה לחשוף מידע רגיש ביותר : גיל משוער, מין, מצב רגשי, עייפות ואפילו רמזים הקשורים לבריאות.
בנוסף, חברות מקשרות לעתים קרובות פעילות קולית למערכות אקולוגיות רחבות יותר של נתונים : חשבונות משתמשים, היסטוריית מיקומים, מכשירי בית מחוברים ואפליקציות צד שלישי מקושרות (לדוגמה, שירותי בית חכם, מוזיקה, נסיעות או שירותי שיתוף נסיעות כמו Uber או Lyft). בדרך זו, עוזרי קול הופכים לנקודה מרכזית לאיסוף נתונים על אורח חייו של המשתמש.
ללא הצפנה חזקה, בקרת גישה ואמצעי אנונימיזציה או פסאודו-נימיזציה , כל ארסנל המידע הזה יכול להפוך למטרה אטרקטיבית מאוד עבור פושעי סייבר, או גרוע מכך, להיות מנוצל בדרכים אטומות לפרסום אגרסיבי או קבלת החלטות אוטומטית ללא ידיעת המשתמש בפועל.
מקרים אמיתיים שעוררו אזעקה
הדאגה החברתית בנוגע לפרטיותם של עוזרים וירטואליים אינה תיאורטית: היא מונעת על ידי אירועים ספציפיים ומתוקשרים מאוד שנחשפו בשנים האחרונות.
אחד המקרים הידועים לשמצה ביותר התרחש בשנת 2019, כאשר קבלן של גוגל הדליף הקלטות של גוגל אסיסטנט לכלי תקשורת בלגיים כמו VRT NWS. הקלטות אלו נועדו לכאורה לשיפור איכות השירות באמצעות בדיקה אנושית, אך הן כללו שיחות אינטימיות ביותר: הערות על בריאות, כתובות דואר, פרטים על חייהם הפרטיים...
רשות הגנת המידע הבלגית דרשה מגוגל להשעות את הבדיקה האנושית עד שניתן יהיה להבטיח הגנות נאותות על הפרטיות. המקרה חשף כי למרות שהחברות טענו שרק מדגם קטן של קבצי אודיו נבדק ידנית, מדגם זה עלול להכיל תוכן רגיש ביותר.
אירוע נוסף שעורר ויכוח היה עדותה של קרימינולוגית שגילתה הקלטות במכשיר האלקסה שלה שלא קדמו להן מילת "התעוררות". במילים אחרות, שיחות נשמרו ללא כל פקודה ישירה נראית לעין כמו "אלקסה".
מחקר שנערך על ידי אוניברסיטת רוהר בבוכום ומכון מקס פלאנק לאבטחה ופרטיות ניתח 11 מכשירים של יצרנים גדולים ותיעד אלפי הפעלות לא מכוונות , המכונות חיוביות שגויות. הם הגיעו למסקנה שמערכות זיהוי קולי אלו, בהתאם ליישום שלהן, יכולות להבדיל בין מילות הפעלה בצורה יעילה יותר או פחות, וכתוצאה מכך ליותר או פחות שגיאות, ולכן סיכון גדול או קטן יותר להקלטות לא רצויות.
מקרים אלה מחזקים את הרעיון שלמרות שהטכנולוגיה מתקדמת, הדיוק אינו מושלם, ולמרווח הטעות יש השלכות ישירות על הפרטיות . כל תוצאה חיובית כוזבת עשויה לכלול פיסת שיחה פרטית שבסופו של דבר מאוחסנת ועלולה להיבדק, להדלף או להתפרש באופן שגוי.
שכבות אבטחה: אימות קולי, זיהוי תנועה וכפתורים פיזיים
במכשירים רבים כיום, ה"אבטחה" לשימוש בעוזר מסתמכת בעיקר על קול כשכבת האימות היחידה . זה יוצר מספר בעיות: כל מי שנמצא בקרבת המכשיר יכול לדבר אליו, לבקש מידע, או אפילו לבצע פעולות רגישות אם לא מוגדרים אמצעי אבטחה נוספים.
תרחיש טיפוסי: רמקול של Alexa בבית ריק או בית נופש לא מאובטח. אם מישהו נכנס, הוא יכול לבקש מידע מהעוזר, לבצע רכישות או לשלוט במכשירי IoT פשוט על ידי דיבור. מטבעו, Alexa אינה דורשת שהרמקול יהיה הבעלים; אם היא מזהה את מילת ההשכמה, היא תפעל.
בהינתן תרחיש זה, הוצע פתרון המכונה כפתור אבטחה וירטואלי (VS button) , אשר יוסיף שכבה שנייה של אימות המבוססת על תנועה אנושית באמצעות טכנולוגיית Wi-Fi. הרעיון הוא שהעוזר לא רק מקשיב למילת ההשכמה אלא גם מזהה את התנועה הקינטית האופיינית של אדם מורשה בסביבה.
כפתור VS זה ישתמש בווריאציות של אותות Wi-Fi כדי לזהות את הנוכחות והתנועה של אנשים . בשילוב עם שליטה קולית, הוא יאפשר חסימת גישה כאשר, למשל, בעל המכשיר אינו מזוהה או כאשר יש תנועה חשודה, ובכך יפחית סיכונים בתרחישים כמו פריצה לבית עם מנעול חכם.
במקביל, חלק מהעוזרים משלבים בקרות פיזיות פשוטות אך רלוונטיות ביותר , כגון כפתורים להשתקת המיקרופון או השבתת האזנה רציפה. למרות שמשתמשים רבים נותנים עדיפות לנוחות ומשאירים תכונות אלו תמיד מופעלות, מנקודת מבט של אבטחה ופרטיות, מומלץ להבין היטב כיצד הן פועלות ולהשתמש בהן רק בעת הצורך.
פרטיות מעוצבת וכברירת מחדל בממשקי שיחה
מנקודת מבט משפטית וארכיטקטורת מערכות, המושג המרכזי הוא פרטיות מעוצבת וברירת מחדל . משמעות הדבר היא שהגנה על נתונים אינה מתווספת מאוחר יותר כתיקון, אלא משולבת בעיצוב המוצר עצמו משלב הרעיון.
פרטיות מעוצבת פירושה שמפתחים של עוזרים וירטואליים וצ'אטבוטים שוקלים, כבר מהטיוטה הראשונה, אילו נתונים באמת נחוצים, כיצד הם יוגנו ולמשך כמה זמן . לא מדובר באיסוף הכל "למקרה הצורך", אלא בתכנון אחראי. חלק מהפטנטים והצעות הרגולציה כבר דורשים שטכנולוגיות כמו בינה מלאכותית יכללו באופן טבעי מצבי פרטיות שונים, שתוכננו אפילו לתרחישים קיצוניים.
עיקרון מרכזי הוא מזעור נתונים : איסוף נתונים החיוניים לתפקוד המערכת בלבד. עיקרון זה משלים טכניקות אנונימיזציה ופסודנונימיזציה, שנועדו למנוע קישור קל של נתונים לאדם ספציפי כאשר אין צורך בכך.
חשובה לא פחות היא השקיפות . לעתים קרובות, התנאים וההגבלות שאנו מקבלים בעת הקמת עוזר - "התנאים וההגבלות" המפורסמים של אפל, גוגל, אמזון או כל ספק אחר - מנוסחים בצורה מעורפלת, עם אותיות קטנות והיקף כה רחב עד שהמשתמש הממוצע בקושי מבין אותם.
פרטיות כברירת מחדל פירושה שאם המשתמש לא משנה דבר, ההגדרות הראשוניות צריכות להיות מגוננות ככל האפשר, ולא להיפך. במילים אחרות, המערכת צריכה להתחיל עם איסוף נתונים מינימלי, עם היסטוריית גלישה מושבתת או עם שמירה מוגבלת, ולהרחיב הרשאות רק כאשר המשתמש מבקש זאת במפורש.
כאשר מוצר לא תוכנן תוך מחשבה על פרטיות, היצרן צריך לשקול ברצינות לשלב שיפורים, מסגרות סטנדרטיות והסמכות שמצמצמות פערים במידע ופגיעויות. יישום מסגרת משותפת על עוזרים וירטואליים יעזור להבטיח שלא נסתמך אך ורק על "הרצון הטוב" של כל חברה.
התחייבויות משפטיות: GDPR, LOPDGDD ותקנות אחרות
באירופה, ההתייחסות העיקרית היא תקנת הגנת המידע הכללית (GDPR) , אשר בספרד משלימה את החוק האורגני להגנה על מידע והבטחת זכויות דיגיטליות (LOPDGDD). עבור חברות המייצרות, משלבות או מציעות שירותים המבוססים על עוזרים וירטואליים, תקנות אלו הן חובה.
בין החובות הרלוונטיות ביותר נמנות פרטיות מעוצבת וברירת מחדל (סעיף 25 בתקנות ה-GDPR) , עליהן כבר דנו, וביצוע הערכות השפעה על הגנת מידע (DPIA, סעיף 35 בתקנות ה-GDPR) כאשר נתונים מעובדים בקנה מידה גדול או באופן שיטתי באמצעות טכנולוגיות שיכולות ללכוד מידע באופן קבוע, כגון מיקרופונים דלוקים תמיד.
ההסכמה חייבת להיות מדעת, ניתנת מחופש, ספציפית וחד משמעית . על המשתמשים לדעת אילו נתונים נאספים, לאיזו מטרה, למשך כמה זמן ועם מי הם ישותפו. יתר על כן, ההסכמה חייבת להיות ניתנת לביטול בכל עת באמצעות מנגנונים פשוטים.
נדרשות גם מדיניות הגבלת אחסון : לא ניתן לאחסן נתונים ללא הגבלת זמן ללא הצדקה. יש לקבוע תקופות שמירה ונהלים ברורים למחיקה מאובטחת לאחר שהמידע אינו נחוץ עוד.
לבסוף, חברות חייבות להיות בעלות פרוטוקולי תגובה לאירועים : במקרה של הפרת אבטחה, יש להודיע לרשות המפקחת, ובמקרים מסוימים, יש ליידע את המשתמשים שנפגעו עצמם, ולנקוט צעדים למזעור הנזק. בתחומי שיפוט אחרים, כמו קליפורניה עם ה-CCPA, הגישה דומה: הזכות לדעת אילו נתונים נאספים, לבקש את מחיקתם ולהתנגד לפרקטיקות מסוימות הכרוכות במכירה או העברה של מידע.
סיכוני פרטיות ואבטחה נפוצים
הפריסה המסיבית של עוזרים וירטואליים הגדילה את מספר התרחישים שבהם הפרטיות עלולה להיפגע. אחת הבעיות הנפוצות ביותר היא איסוף נתונים ללא הבחנה . מיקרופונים יכולים ללכוד קטעי שיחה כאשר המשתמש מאמין שהמכשיר אינו פעיל, ובכך להפר את עקרון מזעור הנתונים של ה-GDPR.
סיכון ברור נוסף הוא חוסר השקיפות . לא תמיד ברור מה בדיוק נעשה עם ההקלטות, מי יכול להאזין להן, האם הן משותפות עם צדדים שלישיים, או האם הן נבדקות ידנית. ללא מידע זה, למשתמשים אין שליטה על פרטיותם.
יצירת פרופילים ללא הסכמה אמיתית היא נושא קריטי נוסף. ניתן לבנות פרופילים התנהגותיים מפורטים מאוד מפעילות המשתמש באמצעות העוזר, מה שמאפשר פרסום ממוקד, התאמות תמחור דינמיות או קבלת החלטות אוטומטיות. אם המשתמש לא הסכים במפורש לשימוש זה, נהוג להפר את התקנות.
לכל זה מתווספים סיכוני אבטחת סייבר : פגיעויות תוכנה, סיסמאות חלשות לחשבונות משויכים, רשתות Wi-Fi לא מאובטחות וכו'. כל זה יכול להוביל לגישה לא מורשית להקלטות, היסטוריית חיפוש, נתוני מיקום או מכשירים המחוברים לעוזר.
לבסוף, ישנה בעיה מעשית: קשיים במימוש זכויות . בפלטפורמות גדולות עם מסדי נתונים מבוזרים, לא תמיד קל למשתמשים לאתר את הנתונים שלהם, לייצא אותם, למחוק אותם או להגביל ביעילות את עיבודם, למרות שהחוק מכיר בזכויות אלה.
צעדים מעשיים להגנה על פרטיותך בעת שימוש בעוזרים וירטואליים
למרות שחלק ניכר מהאחריות מוטלת על החברות, משתמשים יכולים לעשות הרבה כדי להפחית את החשיפה שלהם ולשלוט טוב יותר במה שהם משתפים בעת שימוש באלכסה, סירי, גוגל אסיסטנט או מערכות דומות אחרות.
הצעד הראשון הוא לבדוק היטב את הגדרות הפרטיות של המכשיר שלך . ההגדרות העיקריות מאפשרות לך להתאים את אופן איסוף הנתונים שלך והשימוש בהם. בין האפשרויות השימושיות ביותר, שימו לב ל:
- השבתה או הגבלה של אחסון הקלטות קולעוזרים רבים מאפשרים לך להפסיק לשמור אינטראקציות בחשבונך, או לפחות להפחית את זמן השמירה.
- הגדר מחיקה אוטומטית של היסטוריות לאחר תקופה (לדוגמה, 3 או 18 חודשים), כך ששנים של שיחות לא יצטברו בענן.
- סקירה ומחיקה ידנית של הקלטות ישנות דרך לוח הפעילות או האפליקציה המתאימה.
- שליטה באילו אפליקציות צד שלישי יש גישה לנתונים של העוזר ולבטל הרשאות שאינן חיוניות.
כמו כן, מומלץ לשנות מעת לעת את הסיסמאות עבור חשבונות מקושרים, להפעיל אימות דו-שלבי במידת האפשר, ולוודא שהמכשיר מתחבר רק לרשתות Wi-Fi מאובטחות, תוך הימנעות מרשתות פתוחות ללא הצפנה.
המלצה בסיסית נוספת היא להימנע משיתוף נתונים רגישים במיוחד דרך העוזר , כגון מידע רפואי מפורט, סיסמאות, מספרי מסמכים או נתונים פיננסיים. אמנם מבחינה טכנית זה אפשרי, אך זה אינו הערוץ האידיאלי לעשות זאת אלא אם כן מדובר בפתרון שתוכנן במיוחד למטרה זו ועם אמצעי אבטחה משופרים.
לבסוף, אם אינכם רוצים שרמקול יקשיב כל הזמן, תוכלו להשבית את ההפעלה הקולית ("היי סירי", "אלקסה" וכו') ולהשתמש בעוזר רק כשאתם מפעילים אותו ידנית. זה פחות נוח, כן, אבל זה מבטל חלק ניכר מהפעלות מקריות.
שיטות עבודה טכניות מומלצות עבור מפתחים וחברות
עבור אלו המעצבים או פורסים ממשקי שיחה - בין אם מדובר בעוזר בריאות וירטואלי, בוט פיננסי או צ'אטבוט משאבי אנוש - פרטיות לא יכולה להיות מחשבה שלאחר מעשה. היא חייבת להיות קריטריון עיצובי חשוב לא פחות משימושיות או ביצועים.
מבחינה טכנית, חיוני ליישם הצפנה מקצה לקצה כדי להגן על נתונים במעבר ועל הצפנה במנוחה עבור מידע מאוחסן. מסדי נתונים המכילים היסטוריית קול או נתונים רגישים חייבים להיות מוגנים על ידי בקרות גישה קפדניות, יומני ביקורת וחלוקת הרשאות.
השימוש בטכניקות אנונימיזציה ופסוידונימיזציה מסייע להפחית את ההשפעה של פרצת נתונים: אם הנתונים אינם מקושרים ישירות לאדם ניתן לזיהוי, הסיכון נמוך יותר. עם זאת, האנונימיזציה חייבת להיות חזקה, ולמנוע זיהוי חוזר בקלות של המשתמש.
ברמה העסקית, חיוני לקבוע מדיניות ברורה לניהול העדפות הסכמה ופרטיות . משתמשים צריכים להיות מסוגלים לקבל, לדחות או לשנות אפשרויות בקלות, עם ממשקים שלא מעודדים אותם בעדינות ("דפוסים אפלים") לשתף יתר על המידה.
הכשרה פנימית היא גם חיונית: כל הצוות - מפתחים, מוצר, שיווק, תמיכה - זקוק להכשרה מתמשכת בנושאי פרטיות, אבטחה ותאימות לתקנות . זה עוזר להימנע משגיאות בסיסיות ולזהות עיצובי אינטראקציה שעשויים להיות מניפולטיביים או אטומים בשלב מוקדם.
יישומים מגזריים: שירותי בריאות, פיננסים ומשאבי אנוש
כאשר עוזרים וירטואליים נכנסים לענפים רגישים כמו בריאות , פיננסים או ניהול כוח אדם, רמת הביקוש לפרטיות מזנקת שחקים.
ספק שירותי בריאות האוסף תסמינים, טיפולים או מידע קליני מטפל במידע רגיש במיוחד . במקרים כאלה, הצפנה חזקה, אנונימיזציה שיטתית והסכמה מפורשת ומושכלת הן חובה. יתר על כן, למשתמשים חייבת להיות שליטה ברורה על איזה מידע מאוחסן, מי יכול לראות אותו וכיצד הם יכולים לבטל את הסכמתם.
במגזר הפיננסי, עוזר המאפשר למשתמשים לבדוק חשבונות, לבצע העברות או לקבל המלצות השקעה חייב לשלב אבטחה טכנית גבוהה מאוד (הצפנה, אימות רב-גורמי, זיהוי אנומליות) עם מדיניות מזעור נתונים קפדנית. אין טעם לאחסן יותר מהנדרש או לערבב נתונים פיננסיים עם נתונים מסחריים אחרים ללא הסכמה מפורטת.
במשאבי אנוש, צ'אטבוט פנימי יכול לנהל בקשות חופשה, פניות בנוגע לשכר או מדיניות פנימית . למרות שהסיכון עשוי להיראות נמוך יותר, הוא עדיין כרוך בנתונים אישיים של העובדים. על החברה להגביל את הגישה למערכת זו, לתעד מי ניגש לאיזה מידע, ולהבטיח כי אינטראקציות לא ינוצלו מחדש למטרות שאינן קשורות ליחסי העבודה, אלא אם כן קיים בסיס משפטי ברור לכך.
בכל המקרים הללו, השילוב של תכנון אתי, ציות קפדני ושקיפות עם המשתמשים הוא מה שעושה את ההבדל בין פתרון שימושי לבין פצצת זמן תדמיתית ומשפטית.
עוזרים וירטואליים וממשקי שיחה ימשיכו להתרחב בבית, בעבודה ובכל סוגי השירותים, אך האופן שבו אנו מנהלים את הפרטיות והאבטחה של נתונים אישיים כיום יקבע האם הם יהפכו לבעלי ברית מהימנים או למקור מתמיד לדאגה. מתן עדיפות לפרטיות מכוונת, הגבלה אמיתית של איסוף נתונים, יישום אמצעי אבטחה חזקים ודרישה להסברים ברורים מחברות טכנולוגיה הן, כיום, הדרך הטובה ביותר ליהנות מיתרונותיהם מבלי לאבד ראייה של דבר בסיסי כמו שליטה על המידע שלנו.
