Figyelemfelkeltő fordulat a mesterséges intelligencia fejlődésében: a biztonság háttérbe szorulhat?

Fedezd fel a szintlépést és a globális terjeszkedést a Glosternél – Új látásmódok, izgalmas lehetőségek várnak rád! Csatlakozz ingyenes befektetői klubunkhoz, ahol a Gloster növekedési története kerül a középpontba! Ne hagyd ki ezt a lehetőséget!

Nem olyan rég a Szilícium-völgy a mesterséges intelligencia kutatásának központi színtere volt, ahol a Meta, a Google és az OpenAI bőkezűen támogatták a kutatókat, akik szívesen osztották meg felfedezéseiket a tudományos közösséggel. Azonban ez a korszak mostanra lezárult, és a szektor jelenleg a termékfejlesztésre helyezi a hangsúlyt, ami jelentős kockázatokat rejthet magában - figyelmeztet a CNBC.

A ChatGPT debütálása óta a technológiai vállalatok a kutatás helyett egyre inkább a kereskedelmi célú mesterséges intelligencia szolgáltatások fejlesztésére összpontosítanak. Az üzleti lehetőségek rendkívül ígéretesek: bizonyos elemzők előrejelzése szerint 2028-ra évente akár ezer milliárd dolláros bevételt is elérhet a szektor.

Ez viszont aggodalmat kelt a biztonsági szakértők körében,

különösen mivel a vezető vállalatok az emberi intelligenciát megközelítő vagy meghaladó mesterséges általános intelligencia (AGI) fejlesztésére törekszenek.

A versenyképesség megőrzése érdekében a technológiai cégek egyre több biztonsági tesztelési lépést hagynak ki MI-modelljeik piacra dobása előtt. James White, a CalypsoAI kiberbiztonsági startup technológiai igazgatója szerint az újabb modellek a biztonság rovására javítják a válaszok minőségét, így könnyebben manipulálhatók rosszindulatú célokra.

A változások jól láthatók a Metánál és az Alphabetnél is. 2022-ben Mark Zuckerberg vezérigazgató a Meta AI- kutatóit arra utasította, hogy szorosabban működjenek együtt a termékfejlesztő csapatokkal. A ChatGPT megjelenése váratlanul érte a Metát, ami arra késztette a vállalatot, hogy több erőforrást fordítson a nagy nyelvi modellekre (LLM). 2023-ban a Meta elindította a nyílt forráskódú Llama MI-modellcsaládot, hogy felvegye a versenyt az OpenAI-jal és a Google-lal. A Google is hasonló utat jár be. A vállalat márciusban mutatta be legújabb és legerősebb MI-modelljét, a Gemini 2.5-öt, de hetekig nem tette közzé a modell működéséről, korlátairól és potenciális veszélyeiről szóló tájékoztatót. Sergey Brin, a Google társalapítója februárban egy belső feljegyzésben közölte a DeepMind és a Gemini munkatársaival, hogy "megkezdődött a végső verseny az AGI-ért", és a vállalatnak fel kell gyorsítania az MI-modellek tesztelési folyamatát. Brin szerint a Google-nek fel kell hagynia a "túlzottan védelmező termékek" fejlesztésével.

Az OpenAI-nál folyamatosan keresik a kutatás és a termékfejlesztés közötti ideális egyensúlyt. A céget 2015-ben nonprofit kutatólaboratóriumként alapították, de Sam Altman vezérigazgató irányítása alatt az utóbbi években a profitorientált működés felé tett lépések egyre hangsúlyosabbá váltak. Az OpenAI üteme is felgyorsult a kereskedelmi termékek piacra dobása terén. Steven Adler, a vállalat korábbi biztonsági kutatója rámutatott, hogy a modellek tesztelése már nem elegendő csupán a megjelenésük előtt; a folyamatot sokkal átfogóbban és korábban kell végezni.