Neříkejte AI všechno. Co si raději nechat pro sebe?

Co se skutečně stalo?

V dubnu 2023 jmenovaná firma musela řešit ošemetnou situaci. Několik zaměstnanců Samsungu totiž nahrálo citlivý zdrojový kód do ChatGPT. Interní data společnosti tím pádem začala sloužit k dalšímu trénování tohoto jazykového modelu. V reakci na to Samsung zavedl striktní zákaz používání generativní AI v pracovním prostředí​. „Zákazy ale nejsou tou správnou cestou,“ upozorňuje Barbora Brabcová.

Zmiňovaný incident odhalil zásadní slabinu v tom, jak firmy zacházejí se svými daty v interakci s moderními AI nástroji. Jazykové modely, jako právě ChatGPT, ukládají historii probíhajících konverzací, aby je mohly zužitkovat při svém dalším tréninku. Firma v ten moment fakticky ztrácí kontrolu nad svými citlivými informacemi. Nastavení jazykového modelu jde sice upravit tak, aby neukládal historii konverzací. Nejistota přesto zůstává. Nemůžeme totiž s jistotou vědět, jak dlouho data na serverech zůstávají a jak jsou dále využívána.

Čtěte také

Revoluce ve školství: Jak AI promění kvalitu vzdělávání

Ekonomika V příštích dvou letech čekají školství převratné změny. S rostoucí dostupností a cenovou dostupností umělé inteligence (AI) se otevřou nové možnosti pro transformaci vzdělávání. AI bude zásadně ovlivňovat, jak se učíme a vyučujeme. Školy a univerzity se budou muset přizpůsobit této nové realitě. O budoucnosti vzdělávání s AI hovoří David Strejc, odborník z AutoERP.

Jak chránit citlivé informace?

Chatboti mohou zefektivnit řadu firemních procesů, jejich používání by ale mělo být vždy pečlivě zvažováno v kontextu bezpečnosti a etiky. Každá společnost si musí být vědoma potenciálních rizik a mít jasně nastavené postupy pro ochranu citlivých informací. Jen zodpovědné používání technologie zajistí, že AI zůstane dobrým sluhou, nikoliv zlým pánem.

Jak se podle Barbory Brabcové chovat při používání AI zodpovědně?

• Nechte AI dělat to, co zvládne bez problémů – Pro běžné, opakující se úkoly je AI skvělá. Když ale přijde na citlivé informace, raději se spolehněte na své interní, zabezpečené systémy.
• Zvažte pořízení vlastních AI nástrojů – Místo používání veřejných chatbotů si můžete nasadit vlastní, interní řešení, jako je například Azure OpenAI, kde máte nad daty plnou kontrolu.
• Jasná pravidla pro všechny – Seznamte své zaměstnance se srozumitelnými pravidly zacházení s AI. Musí v nich být především stanoveno, kdy je v pořádku použít otevřenou AI a kdy už musí sáhnout po interních systémech – zejména pokud jde o důležitá data.

Témata:  umělá inteligence (AI),  ChatGPT