Senátori sa pýtajú generálneho riaditeľa spoločnosti Meta Zuckerberga na „únik“ modelu AI LLaMA

Dvaja Senators Cross sa pýtajú Zuckerberga na únik modelu LLaMA AI a obviňujú meta, že nedodržiava bezpečnostné opatrenia. Meta bola vypočúvaná na jej bezpečnostnú politiku a preventívne opatrenia.

Meta bude zodpovedná za „únik“

Nedávno unikol prelomový veľký jazykový model Meta, LLaMA a objavili sa obavy z toho istého. Sens. Richard Blumenthal (D-CT), predseda podvýboru Senátu pre súkromie, technológie a právo, a Josh Hawley (R-MO), člen rebríčka, napísali list, ktorý vyvolal otázky týkajúce sa úniku modelu AI. 

Senators sa obávajú, že tento únik by mohol viesť k rôznym kybernetickým zločinom, ako je spam, podvody, malvér, porušovanie súkromia, obťažovanie a iné neprávosti a škody. Vynárajú sa mnohé otázky a dvaja politici sa hlboko zaujímajú o bezpečnostný systém Meta. Pýtali sa, aký postup bol dodržaný pri hodnotení rizika pred spustením LLaMA. Povedali, že veľmi túžia pochopiť zásady a postupy, ktoré sú zavedené, aby zabránili zneužívaniu modelu v jeho dostupnosti.

Na základe odpovedí Meta na ich otázky Senators obvinili Meta z nesprávnej cenzúry a nedostatku bezpečnostných opatrení pre model. ChatGPT Open AI popiera niektoré žiadosti na základe etiky a pokynov. Napríklad, keď je ChatGPT požiadaný, aby napísal list v mene niekoho syna a požiadal o nejaké peniaze, aby sa dostal z ťažkej situácie, žiadosť zamietne. Na druhej strane LLaMA splní požiadavku a vygeneruje list. Splní aj požiadavky, ktoré sa týkajú sebapoškodzovania, zločinu a antisemitizmu.

Je veľmi dôležité pochopiť rozmanité a jedinečné vlastnosti LLaMA. Je to nielen odlišný, ale aj jeden z doteraz najrozsiahlejších modelov veľkých jazykov. Takmer každý necenzurovaný LLM, ktorý je dnes populárny, je založený na LLaMA. Je vysoko sofistikovaný a presný pre model s otvoreným zdrojom. Príklady niektorých LLM založených na LLaMA sú Stanford's Alpaca, Vicuna atď. LLaMA zohrala dôležitú úlohu pri vytváraní LLM tým, čím sú dnes. LLaMA je zodpovedná za vývoj nízkoúžitkových chatbotov do jemne vyladených režimov.

LLaMA bola vydaná vo februári. Podľa Senators Meta umožnila výskumníkom stiahnuť si model, ale neprijala bezpečnostné opatrenia, ako je centralizácia alebo obmedzenie prístupu. Kontroverzia vznikla, keď sa na BitTorrent objavil kompletný model LLaMA. Vďaka tomu bol model prístupný každému a každému. To viedlo ku kompromisu v kvalite modelu AI a vyvolalo problémy s jeho zneužitím. 

Senátori si spočiatku ani neboli istí, či došlo k nejakému „úniku“. Problémy však nastali, keď bol internet zaplavený vývojom AI, ktorý spustili startupy, kolektívy a akademici. V liste sa uvádza, že Meta musí byť zodpovedná za potenciálne zneužitie LLaMA a pred vydaním sa musí postarať o minimálnu ochranu.

Meta sprístupnila výskumníkom váhy LLaMA. Bohužiaľ, tieto váhy unikli, čo po prvýkrát umožnilo globálny prístup.

Najnovšie príspevky od Ritika Sharma (vidieť všetko)