V blogovom príspevku zverejnenom minulý štvrtok Oznámte spor Vo svojej aplikácii predstaví mnoho nových funkcií AI: Clyde, AutoMod AI, Conversation Summarizes, Avatar Remix a ďalšie.
Tieto nové funkcie AI poháňané technológiou OpenAI ponúkajú serverom Discord sadu služieb. Clyde môže odporučiť zoznamy skladieb, odpovedať na otázky, viesť rozšírené konverzácie a ďalšie. AutoMod AI bude mať rozšírenú funkcionalitu, ktorá „využije silu veľkých jazykových modelov“, aby upozornila na úpravy príspevkov porušujúcich pravidlá a zároveň sledovala kontext konverzácie. Nakoniec, súhrny konverzácií budú zhromažďovať správy z chatov, aby ich zostavili do súhrnu pre tých, ktorí od nich boli na chvíľu preč.
Navyše, Avatar Remix, aplikácia, ktorá „umožňuje priateľom remixovať si navzájom avatarov pomocou sily generatívnych obrázkových modelov“, je teraz open source.
Tieto a mnohé ďalšie nástroje, ktoré Discord čoskoro ponúkne, znejú ako užitočné. Ale tichšie zmeny v zásadách ochrany osobných údajov a hlbší pohľad na to, čo tieto nové nástroje ponúkajú, vykresľujú úplne iný príbeh. Ten, ktorý by mohol viesť k vážnemu poškodeniu používateľov Discordu.
Veľa problémov s ochranou súkromia
Mohli by byť tieto diela agregované aj inými nástrojmi AI a potom presmerované na iné účely bez kreditu alebo povolenia?
Najväčším problémom tejto integrácie AI je skutočnosť, že prichádza s veľmi zámernými zmenami v zásadách ochrany osobných údajov spoločnosti Discord. Predchádzajúce Zásady ochrany osobných údajov, ktoré sú stále v platnosti 26. marca 2023 (Otvorí sa na novej karte)dve dôležité vyhlásenia v časti „Informácie, ktoré zhromažďujeme“.
V prvom sa uvádza, že „vo všeobecnosti neukladáme obsah videohovorov alebo zvukových hovorov alebo kanálov“ a v druhom „Neukladáme ani obsah vysielania, keď zdieľate svoju obrazovku…“ Zvýraznené frázy môžete vidieť na snímke obrazovky nižšie.
Ale po prečítaní si nových zásad ochrany osobných údajov, ktoré nadobudnú účinnosť dňa 27. marca 2023 (Otvorí sa na novej karte)Obidve tieto vyhlásenia boli teraz vymazané, rovnako ako vyhlásenie, v ktorom sa tvrdí, že „Ak to v budúcnosti zmeníme (napríklad, aby sme uľahčili moderovanie obsahu), vopred vám to oznámime“. Dotknutý odsek, ktorý je zakrúžkovaný, môžete vidieť na snímke obrazovky nižšie.
Je to dôležité, pretože to teraz znamená, že akékoľvek informácie, ktoré Discord zhromažďuje, už nie sú chránené pred aktivitou AI. Áno, chápem, že blogový príspevok bol oficiálne upravený tak, aby uvádzal, že „Clyde nenahráva, neukladá ani nepoužíva žiadne údaje o audio ani video hovoroch od používateľov.“ A nie, nemá to na nič vplyv.
Toto tvrdenie je totiž úplne zavádzajúce. V predchádzajúcej vete sa uvádza, že „Clyde môže ukladať a používať informácie len tak, ako je opísané na našej stránke zásady ochrany osobných údajov (Otvorí sa na novej karte)“, ktoré, ako ste uhádli, presmerujú na aktualizované Zásady ochrany osobných údajov. A tieto nové zásady neobsahujú nič, čo by akýmkoľvek spôsobom chránilo vaše údaje, od Clyde alebo akéhokoľvek iného softvéru umelej inteligencie, ktorý sa Discord rozhodne pridať do služby.
… Právne záväzné zásady ochrany osobných údajov mohli byť zmenené tak, aby to odrážali, namiesto toho, aby boli ponechané len ako príspevok na blogu.
Pripomíname, že blogové príspevky alebo iné neoficiálne publikácie nemajú žiadnu právnu váhu, ak sú priamo v rozpore s našimi zmluvnými podmienkami, zásadami ochrany osobných údajov alebo akýmkoľvek iným právnym dokumentom vytvoreným spoločnosťou. Túto taktiku, že blogový príspevok spoločnosti je v priamom rozpore s jej vlastnými právnymi dokumentmi, so zámerom zakryť skutočný obsah spomínaných dokumentov, nedávno zaviedla spoločnosť Wizards of the Coast vo svojom neúspešnom pokuse o jej reformu. Otvorená herná licencia Dungeons and Dragons (OGL) (Otvorí sa na novej karte).
To sa mimochodom týka aj umelej inteligencie AutoMod a sumarizácie konverzácií, pretože jediným účelom týchto sád nástrojov je zhromaždiť čo najviac správ, aby mohli vykonávať svoje funkcie. A kto môže povedať, čo sa s týmito informáciami robí?
Dôsledky straty súkromia
To má potenciál byť absolútnym neporiadkom pre súkromie z mnohých dôvodov. Dovoľte mi na úvod povedať, že za žiadnych okolností by ste nemali písať správy ani zobrazovať streamy, v ktorých páchate akúkoľvek trestnú činnosť alebo zdieľate súkromné informácie na Discorde. Toto je stále otvorená internetová služba a zdieľanie citlivých informácií prostredníctvom správne šifrovaných a chránených stránok, ako je Signal, nie je zlou politikou.
Ale s touto masívnou zmenou svojich zásad ochrany osobných údajov teraz Discord oficiálne a veľmi ticho vyhlasuje, že všetko, čo pošlete, zdieľate alebo nahráte, je bezpečné pred zostavovaním AI. Pretože ak je to tak, samotné právne záväzné zásady ochrany osobných údajov boli zmenené tak, aby to odrážali, a nie sú ponechané len na blogový záznam.
A vzhľadom na to, že mnohé časti sveta (vrátane Spojených štátov amerických) odoberajú občianske slobody, môže to mať hrozné následky. Napríklad, ak ste diskutovali o tom, že máte alebo plánujete určité lekárske postupy, ktoré sa stali nezákonnými tam, kde žijete prostredníctvom programu Discord, a nahlásite to úradom a požadujete, aby spoločnosť Discord odovzdala všetky údaje, ktoré ste zhromaždili prostredníctvom týchto programov AI, potom v súlade s s vlastnou politikou Discordu to urobíte okamžite. To teraz zahŕňa všetky údaje, ktoré už nie sú chránené ich zásadami ochrany osobných údajov.
Toto zhromažďovanie údajov môže narušiť vaše súkromie inými spôsobmi. Všetky tieto nové údaje, ktoré je teraz možné od vás zbierať, je možné premeniť na dátové profily a predávať ich tretím stranám. To je, samozrejme, niečo, čo Discord už môže urobiť, pričom uvádza, že informácie, ktoré od vás zhromažďuje, môžu byť zdieľané s predajcami a súvisiacimi spoločnosťami pre ich vlastné obchodné záujmy. Teraz však má oveľa väčší súbor informácií na zhromažďovanie – to je videorozhovor, hlasový rozhovor, živé vysielanie a akékoľvek ďalšie správy, ktoré nástroje AI zhromažďujú.
Alebo čo ak vy a vaši priatelia sledujete reláciu alebo film v službe Discord na streamovanie videa a je to cez nelegálnu stránku? Teraz, keď Discord zhromažďuje údaje aj z tejto cesty, môže tieto informácie zdieľať s vlastníkmi IP akéhokoľvek média, ktoré si prezeráte, čo spadá do sekcie „dodržiavanie našich zákonných povinností“ v zásadách ochrany osobných údajov. Po zdieľaní týchto informácií môžu títo držitelia IP teraz tie isté stránky sledovať a žalovať a možno si ich aj ponechať Diváci a diváci sú právne zodpovední (Otvorí sa na novej karte)V závislosti od zákonov o pirátstve v ich krajinách.
Kreatívne podnikanie je ohrozené
Zatiaľ čo narušenie súkromia je najzávažnejšou súčasťou celého tohto utrpenia, je tu ďalší problém s jedným z ďalších nových nástrojov Discordu: s aplikáciou Avatar Remix. Nástroje AI sa opakovane dostali pod paľbu, pretože zbierali umelecké diela bez povolenia a používali ich na vytváranie obrázkov pod dohľadom používateľov.
A úplne doslova, celý zmysel tejto aplikácie – ktorá bude teraz open source, a preto sa bude používať častejšie ako predtým – je upraviť avatarov Discord nahraných do nej pomocou „generatívnych obrázkových modelov“. Čo ak je váš avatar umelecké dielo, ktoré ste nakreslili vy alebo niekto iný? Sťahuje AI obrázky nahrané na servery Discord?
Neexistuje spôsob, ako to zistiť presvedčivo, pretože sa to odráža v zásadách spoločnosti Discord. Jediné, čo môžeme urobiť, je minulé a súčasné experimenty s inými obrazovými nástrojmi AI Šialená krádež umenia A nedostatočná ochrana umelcov v týchto prípadoch nie je dobrým precedensom.
To ani nepokrýva počet písomných prác, ktoré v súčasnosti kolujú na týchto serveroch. Mohli by byť tieto diela agregované aj inými nástrojmi AI a potom presmerované na iné účely bez kreditu alebo povolenia?
Záverečné myšlienky
To má potenciál byť absolútnym neporiadkom pre súkromie z mnohých dôvodov.
Naozaj milujem Discord a myslím si, že je to momentálne jedna z najdôležitejších stránok. Počnúc jednoduchou službou hlasového chatu pre hráčov a vyvíjajúcou sa k oveľa viac, sa stala neoddeliteľnou súčasťou života mnohých ľudí a spôsobom, ako sa spojiť s ostatnými v globálnom meradle.
Sám som súčasťou niekoľkých komunít Discord, vrátane niekoľkých spisovateľských komunít, a dokonca prevádzkujem kreatívny server, ktorý povzbudzuje ostatných, aby sa navzájom podelili o svoje umenie, písanie, hudbu a úpravy. Teraz však hrozí, že tieto snahy budú odcudzené, naše súkromie video a audio hovorov bolo odstránené. Rovnaké funkcie, ktoré nám poskytli slobodu pripojenia, budú teraz monitorované a zhromažďované.
Teraz by som bol rád, keby som sa v tomto mýlil. Ak sa ukáže, že ide o planý poplach, pokojne L zoberiem. Ale keď vidím, ako technologické spoločnosti opakovane zrádzajú svoje užívateľské základne, aby rýchlo zarobili, nevidím, že mám pravdu. Najmä preto, že to nie je prvýkrát, čo sa Discord pokúsil bankovať – ako vtedy, keď sa zakladateľ a generálny riaditeľ Jason Citron pokúsil presadiť integráciu NFT na platforme predtým. Späť po reakcii používateľa (Otvorí sa na novej karte).
Jediné, čo vám v tejto chvíli môžem poradiť, je prejsť na nastavenia ochrany osobných údajov a zmeniť ich. Prejdite do Nastavenia používateľa v časti Discord napravo od svojho avatara. Potom kliknite na Súkromie a bezpečnosť na ľavej strane a odhláste sa zo všetkých nastavení Ako používame vaše údaje. Zoznam si môžete pozrieť na snímke obrazovky nižšie.
„Bacon ninja. Alkoholický guru. Hrdý prieskumník. Vášnivý nadšenec popkultúry.“
/cdn.vox-cdn.com/uploads/chorus_asset/file/25424391/Neveika_phone_cooler.jpg)
/cdn.vox-cdn.com/uploads/chorus_asset/file/25255185/246965_vision_pro_VPavic_0001.jpg)