Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"70307778-87cc-4105-8bbf-a55ea9e0e5c6","c_author":"hvg.hu","category":"tudomany","description":"A csalókat igyekszik kiszűrni az Android új funkciója, mely figyelmeztet, ha gyanús, hogy a vonal másik végén lévő fél tőrbe szeretné csalni önt. ","shortLead":"A csalókat igyekszik kiszűrni az Android új funkciója, mely figyelmeztet, ha gyanús, hogy a vonal másik végén lévő fél...","id":"20240516_google-android-gemini-nano-hivasok-figyelese-csalasok-ertesites-mesterseges-intelligencia","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/70307778-87cc-4105-8bbf-a55ea9e0e5c6.jpg","index":0,"item":"7e773ccc-3325-400c-9d06-1e70c16a17fd","keywords":null,"link":"/tudomany/20240516_google-android-gemini-nano-hivasok-figyelese-csalasok-ertesites-mesterseges-intelligencia","timestamp":"2024. május. 16. 17:03","title":"Androidos mobilokon ez hivatalos: hallgatózni fog a Google programja a telefonhívások közben","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"32152d69-b206-4b1d-88ac-19f4ce20b3bb","c_author":"hvg.hu","category":"tudomany","description":"Kielemezte a Virgin Atlantic annak a tesztrepülésnek az adatait, amire majdnem fél évvel ezelőtt került sor. Az eredmény ígéretes.","shortLead":"Kielemezte a Virgin Atlantic annak a tesztrepülésnek az adatait, amire majdnem fél évvel ezelőtt került sor...","id":"20240516_virgin-atlantic-boeing-787-repules-zold-uzemanyag-szen-dioxid-kibocsatasa","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/32152d69-b206-4b1d-88ac-19f4ce20b3bb.jpg","index":0,"item":"30965382-5313-4762-ba69-cbaf1a49e0a3","keywords":null,"link":"/tudomany/20240516_virgin-atlantic-boeing-787-repules-zold-uzemanyag-szen-dioxid-kibocsatasa","timestamp":"2024. május. 16. 16:03","title":"-95 000 kg szén-dioxiddal lehet számolni repülésenként, ha bevezetik az újfajta üzemanyagot","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"85a4fa5a-872b-42c1-b853-a3bae3845aeb","c_author":"hvg.hu","category":"360","description":"Putyin semmiképpen sem szeretne egy Prigozsinéhoz hasonló újabb lázadást, többek közt ezt nevezi meg az orosz elitben végrehajtott változtatások okaként a brit Guardian vendégszerzője.","shortLead":"Putyin semmiképpen sem szeretne egy Prigozsinéhoz hasonló újabb lázadást, többek közt ezt nevezi meg az orosz elitben...","id":"20240516_guardian-sojgu-putyin","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/85a4fa5a-872b-42c1-b853-a3bae3845aeb.jpg","index":0,"item":"0895e850-2d15-42e1-b68c-327832427b48","keywords":null,"link":"/360/20240516_guardian-sojgu-putyin","timestamp":"2024. május. 16. 15:30","title":"Putyin azért forgatta fel a katonai vezetést, mert iszonyúan fél a vetélytársaktól, írja egy brit külügyi szakértő","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"867f0b3e-d83e-4b09-93b8-3f7881dba6b5","c_author":"Balizs Benedek","category":"sport","description":"Egy végletekig kiélezett mérkőzésen, hosszabbítás után a Paks 2–0-ra legyőzte a magyar bajnok Ferencvárost, ezzel az atomvárosiak nyerték meg a 84. Magyar Kupa döntőjét.","shortLead":"Egy végletekig kiélezett mérkőzésen, hosszabbítás után a Paks 2–0-ra legyőzte a magyar bajnok Ferencvárost, ezzel...","id":"20240515_magyar-kupa-donto-ferencvaros-paks-puskas-arena-magyar-labdarugo-szovetseg-szappanos-peter","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/867f0b3e-d83e-4b09-93b8-3f7881dba6b5.jpg","index":0,"item":"f0e26d18-c197-4d8a-b3cd-825fbebc15f4","keywords":null,"link":"/sport/20240515_magyar-kupa-donto-ferencvaros-paks-puskas-arena-magyar-labdarugo-szovetseg-szappanos-peter","timestamp":"2024. május. 15. 22:07","title":"Szappanos a mennybe megy, Magyar Kupa-győztes a Paks","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b9f546d7-d452-40d3-819b-92b5bcb87791","c_author":"hvg.hu","category":"tudomany","description":"Laboratóriumi körülmények között már működik is: sikerült egy olyan stabil molekulát létrehozni, ami segíthet fékezni a globális felmelegedést. Az eredmények biztatók. A fejlesztést nagyobb léptékben is tesztelni kell.","shortLead":"Laboratóriumi körülmények között már működik is: sikerült egy olyan stabil molekulát létrehozni, ami segíthet fékezni...","id":"20240516_globalis-felmelegedes-uveghazhatasu-gaz-megkotese-szen-dioxid-molekula","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b9f546d7-d452-40d3-819b-92b5bcb87791.jpg","index":0,"item":"cdc4e4fc-8af6-4eba-b8ed-c1d5fe016f2b","keywords":null,"link":"/tudomany/20240516_globalis-felmelegedes-uveghazhatasu-gaz-megkotese-szen-dioxid-molekula","timestamp":"2024. május. 16. 20:03","title":"Megcsinálták a csodaanyagot, ami kiszívja a légkörből a szén-dioxidot","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"ff5c3676-e764-4d68-ab94-2d2970af31a1","c_author":"hvg.hu","category":"vilag","description":"A szlovák védelmi miniszter szerint Robert Fico nincs túl az életveszélyen. A sérülések mértéke négy lőtt seb után igen jelentős. A rendőrség délután háromkor tart sajtótájékoztatót. ","shortLead":"A szlovák védelmi miniszter szerint Robert Fico nincs túl az életveszélyen. A sérülések mértéke négy lőtt seb után igen...","id":"20240516_robert-fico-tovabbra-is-eletveszelyben-van-tudatta-a-vedelmi-miniszter","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/ff5c3676-e764-4d68-ab94-2d2970af31a1.jpg","index":0,"item":"b2fb7d5d-a63b-47c2-9b80-ec5f0b3296fc","keywords":null,"link":"/vilag/20240516_robert-fico-tovabbra-is-eletveszelyben-van-tudatta-a-vedelmi-miniszter","timestamp":"2024. május. 16. 14:38","title":"Robert Fico továbbra is életveszélyben van a védelmi miniszter szerint","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"e6585f14-f9fe-4217-a061-aa5a94256d53","c_author":"hvg.hu","category":"kultura","description":"A budapesti Központi Antikvárium júniusi árverésén ott lesz a tételek között József Attila A kanász című versének 1932-ben született kézirata is.","shortLead":"A budapesti Központi Antikvárium júniusi árverésén ott lesz a tételek között József Attila A kanász című versének...","id":"20240516_jozsef-attila-egy-eddig-ismeretlen-keziratara-bukkantak-minimum-10-milliot-kernek-erte","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/e6585f14-f9fe-4217-a061-aa5a94256d53.jpg","index":0,"item":"d219b379-14be-4f1f-8d67-2c1d4ddb925a","keywords":null,"link":"/kultura/20240516_jozsef-attila-egy-eddig-ismeretlen-keziratara-bukkantak-minimum-10-milliot-kernek-erte","timestamp":"2024. május. 16. 09:41","title":"József Attila egy eddig ismeretlen kéziratára bukkantak, minimum 10 milliót kérnek érte","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"46ec8a8e-15e1-4c7c-a5f3-87575ff1305f","c_author":"hvg.hu","category":"tudomany","description":"A fikciós művek olvasását elsősorban a kikapcsolódás egy formájának tekintik. Német kutatók viszont ennél többet állítanak: szerintük az ilyesfajta időtöltés, a szórakoztató és szépirodalmi könyvek olvasgatása kognitív előnyökkel is jár.","shortLead":"A fikciós művek olvasását elsősorban a kikapcsolódás egy formájának tekintik. Német kutatók viszont ennél többet...","id":"20240515_szepirodalom-szorakoztato-irodalom-fikcio-olvasas-hatasa-kognitiv-elonyok","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/46ec8a8e-15e1-4c7c-a5f3-87575ff1305f.jpg","index":0,"item":"a34e79c5-e24d-4eb3-aaeb-3d55d9a4ad90","keywords":null,"link":"/tudomany/20240515_szepirodalom-szorakoztato-irodalom-fikcio-olvasas-hatasa-kognitiv-elonyok","timestamp":"2024. május. 15. 12:03","title":"Olvasson többet ezekből a könyvekből, hálás lesz érte az agya","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Nem túl örvendetes megállapítást tettek amerikai kutatók: bizonyos mesterségesintelligencia-eszközök sebezhetőbbek a célzott támadásokkal szemben, mint korábban gondolták. Ez különösen nagy baj azokban az esetekben, amikor emberéletek múlhatnak a MI döntésén.
Ha valaki manipulálni tudja a mesterségesintelligencia-rendszerekbe táplált adatokat, akkor megzavarhatja annak működését. Például ha valaki tudja, és ennek megfelelően módosítja a MI-t, akkor egy adott típusú matrica elhelyezésével egy stoptáblán, gyakorlatilag láthatatlanná teszi a jelzést a MI számára. Vagy egy hacker olyan kódot telepíthet egy röntgenkészülékre, amely úgy változtatja meg a képi adatokat, hogy a gépi algoritmus pontatlan diagnózist állítson fel.
Ez csupán két kiragadott példa az Észak-Karolinai Állami Egyetem kutatóinak tanulmányából. Azt vizsgálták, hogy mennyire gyakoriak az ilyen típusú, úgynevezett ellenséges sebezhetőségek a mély neurális hálózatokban. Azt találtak, hogy ezek gyakoribbak, mint azt korábban gondolták.
Az ezeket a sebezhetőségeket kihasználó támadók, arra kényszeríthetik a mesterséges intelligenciát, hogy az adatokat úgy értelmezze, ahogyan azt a hackerek akarják. A stoptábla példájánál maradva: elhitethetik a MI-rendszerrel, hogy az egy zöld lámpa, és szabad az út. Az ilyen támadások pedig akár emberéletekbe kerülhetnek.
A kutatók a mély neurális hálózatok ellenséges sérülékenységeinek keresésére kifejlesztettek egy szoftvert. A QuadAttacKnak figyeli, hogy a betanításhoz használt adathalmaz alapján még „tiszta” döntéseket hozó MI-modell működésének figyelésével felismeri annak döntéshozatali mintázatait. Ezután manipulált adatokat kezd el küldeni a MI-rendszernek, hogy lássa, hogyan reagál a mesterséges intelligencia. Ha a QuadAttacK sebezhetőséget azonosít, gyorsan rábírhatja az MI-t, hogy bármit lásson, amit a QuadAttacK látni szeretne.
Koncepciójuk bizonyítására a kutatók négy mély neurális hálózatot teszteltek QuadAttacK segítségével: két konvolúciós neurális hálózatot (ResNet-50 és DenseNet-121) és két látástranszformátort (ViT-B és DEiT-S). Azért esett rájuk a választás, mert világszerte széles körben használják ezeket az MI-rendszerekben. Meglepődve tapasztalták, hogy mind a négy hálózat nagyon sebezhető volt az ellenséges támadásokkal szemben, és hogy nagy mértékben lehetett finomítani a támadásokat, hogy a hálózatok azt lássák, amit a kutatók szeretnének.
North Carolina State University
A kutatócsoport nyilvánosan elérhetővé tette a QuadAttacKot, hogy a kutatóközösségek maguk is felhasználhassák a neurális hálózatok sebezhetőségeinek tesztelésére. A következő lépésben meg szeretnék találni a lehetőségeket a sebezhetőség minimalizálására. Ehhez már van néhány lehetséges megoldásuk, de a végeredmény még várat magára.
Ha a második negyedévben kilőnek az igénylések, akkor talán elérhetjük a nagyon gyenge 2016-os, első féléves szintet - ha nem, akkor új negatív rekord születhet.