Etika a dôvernosť v neziskovom sektore
Na tejto strane
Zodpovedné využívanie umelej inteligencie
Neziskové organizácie pracujú s niektorými z najcitlivejších údajov, aké existujú: kontaktné údaje prijímateľov pomoci, informácie o ich sociálnej situácii, zdravotné údaje a údaje týkajúce sa maloletých. Predtým, než integruješ ChatGPT do svojich pracovných postupov, musíš pochopiť etické riziká a zaviesť ochranné opatrenia šité na mieru tvojej cieľovej skupine. Táto lekcia ti poskytne kľúče k práci s istotou, pri rešpektovaní nariadenia GDPR (Všeobecné nariadenie o ochrane osobných údajov) a tvojej povinnosti zachovávať mlčanlivosť.
Čo robí ChatGPT s tvojimi údajmi
Pri individuálnych plánoch – Free, Go, Plus a Pro – sa tvoje konverzácie môžu používať na zlepšovanie modelov spoločnosti OpenAI, pokiaľ túto možnosť nevypneš. To platí aj pre informácie, ktoré čítajú pripojené aplikácie. Pre organizáciu, ktorá podporuje zraniteľné osoby, má úprava tohto nastavenia absolútnu prioritu.
Existujú tri páky a ich účinky sa sčítavajú. Prvou je vypnutie zlepšovania modelu: v nastaveniach, v sekcii Data Controls (Ovládanie údajov), vypni príslušnú možnosť označenú ako „Improve the model for everyone“ (Zlepšiť model pre všetkých) v anglickom rozhraní. Poznámka: aj keď je táto možnosť vypnutá, hodnotenie odpovede palcom hore alebo dole môže stále autorizovať použitie celej konverzácie. Druhou pákou je Dočasný chat (Temporary Chat), ktorý sa nezobrazuje v tvojej histórii a počas aktívneho používania sa nevyužíva na zlepšovanie modelov; kópia však môže byť z bezpečnostných dôvodov uchovávaná až 30 dní. Vyber si nepersonalizovaný režim, aby nepoužíval ani tvoju pamäť, ani vlastné inštrukcie: toto je správny reflex vždy, keď sa téma dotýka individuálnej situácie. Treťou pákou je rozpočtové rozhodnutie: pri pláne Business spoločnosť OpenAI netrénuje svoje modely na tvojich údajoch a program OpenAI for Nonprofits sprístupňuje túto možnosť oprávneným neziskovým organizáciám za 8 USD za používateľa mesačne pri ročnej fakturácii.
Zlaté pravidlo: Systematická anonymizácia
Žiadne nastavenie nenahradí disciplínu pri zadávaní údajov. Bez ohľadu na tvoju konfiguráciu si osvoj tento reflex: nikdy nezadávaj do ChatGPT osobné údaje umožňujúce identifikáciu osoby (PII). Patria sem celé mená prijímateľov pomoci, osobné telefónne čísla a e-mailové adresy, bydliská ľudí, ktorým pomáhaš, rodné čísla a zdravotné údaje, ako aj akékoľvek podrobné sociálne situácie obsahujúce prvky, ktoré by mohli niekoho identifikovať.
Preformulovanie je jednoduchšie, než sa zdá. Namiesto zadania „Napíš list pre pani Dupontovú, 45 rokov, slobodnú matku troch detí žijúcu na adrese Lilac Street 12 v Lyone, poberajúcu dávky RSA,“ sa opýtaj: „Navrhni šablónu listu pre prijímateľa pomoci, slobodnú matku, ktorá potrebuje pomoc pri žiadosti o sociálne bývanie.“ ChatGPT vygeneruje šablónu, ktorú následne personalizuješ skutočnými údajmi mimo tohto nástroja, vo svojom textovom editore. Výsledok je totožný, ale riziko úniku údajov zmizne.
GDPR a právne povinnosti
Ako nezisková organizácia zodpovedáš za spracúvanie osobných údajov svojich členov, dobrovoľníkov a prijímateľov pomoci. Zavedenie ChatGPT do tvojej praxe si preto vyžaduje splnenie niekoľkých konkrétnych povinností, ktoré je lepšie riešiť proaktívne než počas auditu.
| Povinnosť podľa GDPR | Aplikácia pri používaní ChatGPT |
|---|---|
| Minimalizácia údajov | Zadávaj len to, čo je striktne nevyhnutné; anonymizuj údaje |
| Informovanie jednotlivcov | Uveď používanie umelej inteligencie vo svojich zásadách ochrany osobných údajov |
| Záznam o činnostiach spracúvania | Zaznamenaj používanie ChatGPT do svojho registra; pri pláne Business vystupuje OpenAI ako sprostredkovateľ |
| Prenosy mimo EÚ | Zdokumentuj rámec prenosu: zmluva o spracúvaní údajov spoločnosti OpenAI sa opiera o štandardné zmluvné doložky |
Interná charta umelej inteligencie
Odporúčame vypracovať chartu využívania umelej inteligencie špecifickú pre tvoju organizáciu; stačia dve strany a predídu mnohým nedorozumeniam, keď k vám príde nový dobrovoľník. Špecifikuje sa v nej, kto je oprávnený používať ChatGPT – zamestnanci, dobrovoľníci, stážisti – a čo, teda aké typy úloh sú povolené a ktoré zakázané. Následne podrobne opisuje ako: pravidlá anonymizácie a povinné nastavenia ochrany súkromia pre každý účet. Nakoniec stanovuje dva zásadné princípy ukončenia práce: každý výstup z ChatGPT musí byť pred distribúciou skontrolovaný a vopred sa rozhodneš, v ktorých prípadoch discloseuješ používateľom umelej inteligencie svojim zainteresovaným stranám.
Skreslenia a overovanie obsahu
ChatGPT reprodukuje skreslenia prítomné v jeho trénovacích dátach a neziskový sektor je na ne obzvlášť citlivý. Dávaj pozor na stereotypy týkajúce sa zraniteľných populácií, ako aj na paternalistické alebo stigmatizujúce formulácie – text odkazujúci na „chudobných, ktorým pomáhame“ namiesto „ľudí, ktorých podporujeme“, pôsobí na priamo dotknutých veľmi negatívne. Tiež si dávaj pozor na vymyslené štatistiky: model dokáže s dokonalou vierohodnosťou „halucinovať“ čísla. Pokiaľ ide o právne alebo lekárske odporúčania, vždy si ich over u profesionála skôr, než ich zdieľaš s kýmkoľvek.
Teraz si na rade ty
Desať minút na zabezpečenie tvojho používania. Otvor svoje nastavenia, vypni zlepšovanie modelu a následne si prezri svoje posledné tri konverzácie: identifikuj každé meno, adresu alebo identifikovateľnú situáciu, ktorú si mal anonymizovať, a preformuluj zadanie podľa príkladu z tejto lekcie.
Oficiálne zdroje: How your data is used to improve model performance · Temporary chat in ChatGPT · OpenAI for Nonprofits (Centrum pomoci OpenAI) · OpenAI Data Processing Addendum (OpenAI)
Kľúčové poznatky
- Pri individuálnom pláne vypni v nastaveniach zlepšovanie modelu
- Nikdy nezadávaj osobné údaje umožňujúce identifikáciu – systematicky anonymizuj
- Plán Business vylučuje tvoje údaje z trénovania; oprávnené neziskové organizácie ho môžu využívať za 8 USD za používateľa mesačne pri ročnej fakturácii
- Aktualizuj svoj register GDPR a zásady ochrany osobných údajov
- Vypracuj internú chartu umelej inteligencie prispôsobenú tvojej neziskovej organizácii
- Pred distribúciou vždy skontroluj a over vygenerovaný obsah