Komentář Davida Polácha, konzultanta informační bezpečnosti společnosti Cybrela
365 dní. Tak dlouho už se veřejnost sžívá s ChatGPT, nejznámějším rozhraním pro velký jazykový model (LLM) na světě. Během prvního roku existence stihl překonat milník 10 miliard návštěv, napsat několik úspěšných seminárních prací a dostat se na obálku magazínu “Time”.
I v batolecím věku ale stále čelí obavám z plagiátorství, dezinformací, krádeže pracovních míst nebo vyzrazení obchodních tajemství. Pro spoustu firem je zapojení LLM díky vidině úspor nebo větší kreativity lákavé. Na druhé straně zase stojí společnosti, které jejich využití omezují nebo rovnou zakazují. Do druhé skupiny přitom spadají i nejznámější technologičtí giganti včetně Apple nebo Spotify. Měly by jejich příklad následovat i české firmy?
Placená ≠ bezpečná
Častokrát se mě klienti ptají, zda je placená verze ChatGPT 4.0 bezpečnější. Odpovídám, že bezpečnost dat, která do ChatGPT vložíte, by měla být stejná nezávisle na verzi. Alespoň teoreticky.
Pohybujeme se totiž ve 2 rovinách – právní a technické. Z právního hlediska je důležitá privacy policy, kterou společnost OpenAI má. A ta je pro oba produkty stejná.
Druhé hledisko je technické. Tam už se dílčí rozdíly mezi neplacenou verzí 3.5 a placenou 4.0 mohou projevit. Bezplatná verze dle všeho není dále rozvíjena, takže se tam mohou objevovat zranitelnosti. Protože ale není zasahováno do jejího kódu a nejsou implementovány nové funkcionality, neměly by vznikat zranitelnosti nové. U placené verze vývoj probíhá, v jejím případě tak mohou vyvstat problémy, např. že vývojáři udělají chybu v zabezpečení. Ani 20 dolarů měsíčně, kolik ChatGPT 4.0 stojí, vám tak jednoznačně klidný spánek nezaručí.
Co nevložíš, to neztratíš
Největším bezpečnostním rizikem nadále zůstávají samotní zaměstnanci. Smlouvy, finanční ukazatele, osobní údaje, know-how… To vše mohou v dobré víře ChatGPT svěřit, aniž by si uvědomovali, jaké podstupují riziko.
Stačí například, aby se útočníci dostali do zařízení, ze kterého zaměstnanec ChatGPT využívá. Z historie promptů pak může všechna citlivá data vyčíst. Nemluvě o tom, že pokud ChatGPT sdělím například svoje finanční výhledy na další kvartál, prakticky nad těmito daty prakticky ztrácím kontrolu. Opravdu tedy nejde důležitost důkladného vzdělávání personálu a nastavení interních pravidel pro práci s AI přehnat.
Navzdory některým katastrofickým tvrzením nejsem toho názoru, že umělá inteligence v budoucnu nahradí pracovníky v kancelářích. Naopak bude platit, že zaměstnanec, který umí při své práci ChatGPT zapojit, bude na trhu práce atraktivnější než člověk, který to neumí.
A ten, který u toho dokáže ohlídat všechna firemní tajemství? Ten bude ještě atraktivnější. (29.11.2023)
