Jak naučit jazykový model lhát? Dezinformátoři cílí i na umělou inteligenci
S rostoucí popularitou vyhledávání informací přes jazykové modely roste i zájem dezinformátorů jejich odpovědi ovlivňovat. V praxi už se objevují případy, kdy sekoordinované kampaně snaží zaplavit internet zavádějícím obsahem tak, aby jej AI nástroje následně vyhledávaly, citovaly a reprodukovaly. Tento fenomén seoznačuje jako LLM grooming. Největší riziko představuje u témat, ke kterým ve veřejném prostoru chybí dostatek kvalitních a ověřených zdrojů.
Dezinformátoři už nebojují o pozornost lidí jen na sociálních sítích, v řetězových e-mailech nebo na dezinformačních webech. Jejich koordinované útoky se již nějakou dobu snažíovlivňovat i odpovědi jazykových modelů.
„Tento fenomén je označován jako LLM grooming. Jedná se v podstatě o systematické zahlcování internetu zavádějícím nebo ...