- Digitális mérnöki átalakítás megbízható mesterséges intelligencia segítségével az ipar 4.0 felé: Feltörekvő paradigmaváltások (arXiv)
Szerző: Jingwei Huang
Absztrakt: A digitális mérnöki átalakítás kulcsfontosságú folyamat a negyedik ipari forradalom (4IR) mérnöki paradigmaváltásaiban, a mesterséges intelligencia (AI) pedig a digitális mérnöki átalakulás egyik kritikus alaptechnológiája. Ez a cikk a következő kutatási kérdéseket tárgyalja: Melyek az alapvető változások a 4IR-ben? Pontosabban, melyek az alapvető változások a mérnöki életben? Mi a digitális tervezés? Melyek a fő bizonytalanságok? Mi a megbízható AI? Miért fontos ez ma? Milyen mérnöki paradigmaváltások vannak a 4IR-ben? Mi a kapcsolat az adatintenzív paradigma és a digitális mérnöki átalakulás között? Mit tegyünk a digitalizáció érdekében? Az ipari forradalmak mintázatának vizsgálata alapján ez a cikk azt állítja, hogy a mindenütt jelenlévő gépi intelligencia (uMI) a 4IR meghatározó ereje. A digitalizáció feltétele a mindenütt jelenlévő gépi intelligencia kihasználásának. Az Ipar 4.0 felé vezető digitális mérnöki átalakulás három alapvető építőelemből áll: a tervezés digitalizálása, a mindenütt jelenlévő gépi intelligencia kiaknázása, valamint a digitális bizalom és biztonság kiépítése. A mérnöki tervezői közösség egészében kiváló lehetőség előtt áll, hogy a mindenütt jelenlévő gépi intelligencia és a megbízható mesterséges intelligencia alapelvei, valamint a digitális bizalom új képességeit egyesítse a különféle mérnöki rendszerek tervezésében, hogy biztosítsa a rendszerek megbízhatóságát az Ipar 4.0-ban.
2. Ez nem „pontosság kontra magyarázhatóság” – mindkettőre szükségünk van a megbízható AI-rendszerekhez (arXiv)
Szerző: D. Petkovic
Absztrakt: Tanúi vagyunk egy mesterséges intelligencia-gazdaság és társadalom kialakulásának, ahol az AI-technológiák egyre nagyobb hatással vannak az egészségügyre, az üzletre, a közlekedésre és a mindennapi élet számos aspektusára. Számos olyan sikerről számoltak be, ahol az AI-rendszerek még a humán szakértők pontosságát is felülmúlták. Az AI-rendszerek azonban hibákat produkálhatnak, torzítást mutathatnak, érzékenyek lehetnek az adatok zajára, és gyakran hiányzik a technikai és bírósági átláthatóság, ami a bizalom csökkenéséhez és az elfogadásuk során felmerülő kihívásokhoz vezet. Ezeket a közelmúltbeli hiányosságokat és aggodalmakat a tudományos, de az általános sajtó is dokumentálta, mint például az önvezető autókkal történt balesetek, az egészségügyben tapasztalható elfogultságok, a színes bőrűek felvétele és arcfelismerő rendszerei, a látszólag helyes orvosi döntések, amelyekről később kiderült, hogy rossz okok miatt születtek. stb. Ennek eredményeként számos kormányzati és szabályozási kezdeményezés született, amelyek megbízható és etikus mesterséges intelligenciát követelnek meg a pontosság és robusztusság, a megmagyarázhatóság valamilyen formája, az emberi ellenőrzés és felügyelet, az elfogultság megszüntetése, az igazságszolgáltatás átláthatósága és biztonsága érdekében. A megbízható mesterségesintelligencia-rendszerek megvalósításának kihívásai motiválták a megmagyarázható AI-rendszerek (XAI) intenzív kutatását. Az XAI célja, hogy az ember számára érthető információkat nyújtson arról, hogy az AI-rendszerek hogyan hozzák meg döntéseiket. Ebben a cikkben először röviden összefoglaljuk az XAI jelenlegi munkáját, majd megkérdőjelezzük a pontosság és a megmagyarázhatóság közelmúltbeli érveit, amelyek kölcsönösen kizárják egymást, és csak a mély tanulásra összpontosítanak. Ezt követően bemutatjuk az XAI használatára vonatkozó ajánlásainkat a nagy téttel rendelkező, megbízható mesterségesintelligencia-rendszerek teljes életciklusában, pl. fejlesztés, érvényesítés és tanúsítás, valamint megbízható gyártás és karbantartás.
