Kunstmatige intelligentie vindt steeds vaker zijn weg van de luchthaventerminal naar de cockpit: luchtvaartmaatschappijen onderzoeken systemen die nu al taken van piloten kunnen automatiseren en later volledig autonome vluchten mogelijk moeten maken. Het lijkt erop dat AI het vliegen veiliger en efficiënter kan maken en de afhankelijkheid van overbelaste bemanningen kan verminderen. Maar de geschiedenis van het vervoer, zowel op de grond als in de lucht, herinnert ons er op verontrustende wijze aan dat fouten in veiligheidskritische automatisering verwoestende gevolgen kunnen hebben. Wat zou er dan mogelijk mis kunnen gaan?
Op Quonset State Airport in Rhode Island vloog een experimentele Cessna Caravan, uitgerust met het “Merlin Pilot”-systeem van Merlin Lab, volledig autonoom met passagiers aan boord. Tijdens de vlucht zat de testpiloot aan de knoppen, maar bestuurde hij het vliegtuig niet, aangezien het systeem alle pilootstaken uitvoerde, evenals het versnellen, opstijgen, draaien, dalen en landen, schrijft G.Calder.
Het systeem gaat verder dan conventionele pilootondersteuning, omdat het is ontworpen om direct te communiceren met luchtverkeersinstructies in plaats van alleen maar hoogte of snelheid vast te houden. Merlin Pilot maakt gebruik van een model voor natuurlijke taalverwerking om te luisteren naar een gesimuleerde luchtverkeersleider en via de radio te reageren met een door de computer gegenereerde vrouwenstem. De machine volgde geen vooraf ingestelde route, maar interpreteerde gesproken instructies en zette deze om in concrete acties.
Merlin zegt al honderden testvluchten te hebben voltooid terwijl het werkt aan certificering door de Federal Aviation Administration (FAA) en het eerste grote testterrein zou wel eens de militaire luchtvaart kunnen zijn in plaats van de passagiersluchtvaart. Het bedrijf heeft al een contract van 100 miljoen dollar binnengehaald bij de Amerikaanse luchtmacht om de technologie in C-130-vrachtvliegtuigen te implementeren, terwijl de CEO benadrukt dat het doel niet is om zomaar over te schakelen op onbemande vliegtuigen, maar om kunstmatige intelligentie naast menselijke piloten in te zetten en geleidelijk vertrouwen op te bouwen.
Natuurlijk is de luchtvaart al sterk afhankelijk van automatisering. Er is automatische piloot, samen met automatische landing, fly-by-wire-besturingssystemen, assistentie bij het vermijden van botsingen en vluchtbeheerscomputers. In feite wordt de moderne luchtvaart tegenwoordig vaak als veiliger beschouwd, grotendeels dankzij de machines die mensen al helpen vermoeidheid, fouten en overbelasting te voorkomen.
Kunstmatige intelligentie is echter een heel ander verhaal. Traditionele automatisering volgt ontworpen regels binnen strikt gereguleerde grenzen voor specifieke situaties. AI-systemen worden daarentegen getraind op basis van data, waaruit ze interpreteren hoe ze in toekomstige situaties moeten handelen, in plaats van expliciet voor elk scenario te worden geprogrammeerd. De eigen routekaart van de FAA voor AI-veiligheidsborging stelt dat de luchtvaart voor een nieuwe uitdaging staat met systemen die “prestaties en capaciteiten bereiken door te leren in plaats van door ontwerp”, omdat het vakgebied niet beschikt over dezelfde technische principes die ten grondslag liggen aan traditionele ontwerpborging.
De toezichthouder erkent daarmee dat AI niet naadloos in het klassieke veiligheidsmodel past. Van oudsher is de luchtvaart een sector die controleert, certificeert, test, dupliceert, simuleert en goedkeurt. Kunstmatige-intelligentiesystemen die vliegtuigen aansturen, werken op totaal andere operationele grondslagen.
Het Europees Agentschap voor de veiligheid van de luchtvaart (EASA) gaat in dezelfde richting, maar lijkt optimistischer in zijn bewoordingen. In zijn rapport Artificial Intelligence and Aviation stelt EASA dat AI “een rol zal gaan spelen in alle domeinen van de luchtvaart”, door geavanceerde ondersteuning te bieden aan luchtvaartprofessionals en procesoptimalisatie die de sector veiliger en duurzamer kan maken. Het waarschuwt echter ook voor de risico’s rond de complexiteit van machine learning-systemen, ethiek en cyberbeveiliging.
Op de weg heeft de eerste generatie tests met autonome voertuigen de werkelijke kosten van fouten in kunstmatige intelligentie aangetoond. Op 18 maart 2018 raakte een geautomatiseerd testvoertuig van Uber de 49-jarige Elaine Herzberg in Tempe, Arizona, en doodde haar. De National Transportation Safety Board verklaarde dat het geautomatiseerde rijsysteem dat in ontwikkeling was op dat moment actief was. In haar rapport wees de instantie op de “ontoereikende veiligheidscultuur” bij Uber en stelde zij dat het bedrijf “het verwachte veiligheidsrisico van de functionele beperkingen van zijn geautomatiseerde rijsysteem niet adequaat had beheerd, waaronder het onvermogen van het systeem om bij dit ongeval het pad van de voetganger die de weg overstak correct te classificeren en te voorspellen.”
In oktober 2023 schortten de Californische toezichthouders de zelfrijdende robotaxidienst van Cruise op, nadat zij tot de conclusie waren gekomen dat de voertuigen “een onredelijk risico voor de openbare veiligheid” vormden. De opschorting volgde op verschillende incidenten, waaronder een waarbij een robotaxi van Cruise een voetganger aanreed – die al was aangereden door een door een mens bestuurd voertuig – en bovenop haar tot stilstand kwam, waardoor zij beklemd raakte en ernstig letsel opliep.
Cruise kreeg later een boete van 1,5 miljoen dollar nadat federale toezichthouders hadden vastgesteld dat het bedrijf onvolledige rapporten had ingediend waarin niet werd vermeld dat het voertuig de voetganger ongeveer 6 meter had meegesleurd. De adjunct-directeur van de NHTSA zei dat bedrijven die geautomatiseerde rijsystemen ontwikkelen, “veiligheid en transparantie vanaf het begin” voorop moeten stellen.
Het risico van kunstmatige intelligentie gaat niet alleen over de vraag of het publiek de machine zelf kan leren vertrouwen, maar ook over de bedrijven die de systemen bouwen, de toezichthouders die het gebruik ervan goedkeuren, en de interne rapportagecultuur die bepaalt wat het publiek te horen krijgt als er onvermijdelijk iets misgaat.
Ook in de luchtvaart is automatisering al misgegaan. De Boeing 737 MAX werd wereldwijd aan de grond gehouden na twee crashes – Lion Air-vlucht 610 in oktober 2018 en Ethiopian Airlines-vlucht 302 in maart 2019 – waarbij in totaal 346 mensen omkwamen. Onderzoekers richtten zich sterk op het Maneuvering Characteristics Augmentation System (MCAS), een geautomatiseerd vluchtbesturingssysteem dat de neus van het vliegtuig naar beneden kon duwen na het ontvangen van foutieve sensorgegevens. MCAS zelf was geen kunstmatige intelligentie, maar het laat wel zien hoe gevaarlijk automatisering kan zijn wanneer deze wordt geïntroduceerd in transportsystemen waar veel op het spel staat.
De NTSB heeft later kritiek geuit op aannames rond MCAS en zei dat de veiligheidsbeoordeling van Boeing onvoldoende rekening hield met hoe meerdere waarschuwingen en indicaties in de cockpit de piloten konden beïnvloeden bij het herkennen van en reageren op onbedoelde activering van MCAS als gevolg van foutieve gegevens over de invalshoek.
Ondertussen kijkt de luchtvaartindustrie naar de voordelen. De Internationale Burgerluchtvaartorganisatie (ICAO) vatte samen dat “AI een revolutie teweegbrengt in de luchtvaartindustrie, processen optimaliseert en de efficiëntie verbetert op belangrijke gebieden zoals luchtverkeersbeheer, voorspellend onderhoud en veiligheid”. Het kan helpen bij het voorspellen van defecte apparatuur, het verminderen van brandstofverbruik, het optimaliseren van routes, het beheren van verkeersopstoppingen, het verbeteren van de pilotenopleiding en het verwerken van weer- of verkeersgegevens met snelheden die geen mens ooit zou kunnen evenaren. Maar de ICAO waarschuwt ook dat de introductie ervan vragen oproept over de interactie tussen mens en machine, het situationeel bewustzijn van de operator, besluitvorming en overmatige afhankelijkheid van systemen.
Maar als het gaat om geautomatiseerde vluchten, kunnen de kosten van één enkele fout moeilijk worden overschat. Wat als 99.999 vluchten veilig worden uitgevoerd, maar AI er niet in slaagt één combinatie van weersomstandigheden, sensorfouten, conflicten in het luchtverkeer en menselijke verwarring correct in te schatten, die in de eerste plaats onmogelijk te modelleren was?
Wat als piloten de bewakers worden van de systemen die ze zelden hoeven te overrulen, maar van wie verwacht wordt dat ze binnen enkele seconden de controle overnemen in een specifiek scenario dat de machine niet zelf kan oplossen? En wat als de echte waarschuwing hier niet de schijnbaar onvermijdelijke overname door AI is, maar een stille achteruitgang van menselijke vaardigheden? Fouten in de lucht, zoals gezien bij de 737 MAX-rampen, kunnen honderden levens kosten.
Regelgevers benadrukken dat de overgang voorzichtig zal verlopen. De FAA zegt dat kunstmatige intelligentie stapsgewijs moet worden geïntroduceerd, te beginnen met toepassingen met een lager risico en ervaring die wordt ingezet voor bredere veiligheidsmethoden. Maar de commerciële druk zal niet neutraal zijn. Luchtvaartmaatschappijen kampen met een tekort aan piloten, kostendruk, brandstofbeperkingen en voortdurende eisen op het gebied van efficiëntie. Techbedrijven hebben klanten nodig en overheden willen innovatie. Als AI wordt gepresenteerd als de toekomst van de luchtvaartveiligheid, kan elk verzet worden afgedaan als anti-vooruitgang.
Hier is geïnformeerde scepsis nodig. De luchtvaart is veilig geworden door een cultuur die mislukkingen wantrouwde en ongevallen obsessief onderzocht. Extreme voorzichtigheid is geboden nu AI het luchtruim betreedt, zonder dezelfde aannames die we in andere sectoren zien dat de machine slimmer zal zijn dan de mens. En wat nog belangrijker is: het publiek heeft meer nodig dan alleen mooie woorden over innovatie. Het verdient het om te weten wie verantwoordelijk is als het algoritme fout zit, hoe piloten bekwaam genoeg blijven om in te grijpen, wat toezichthouders werkelijk kunnen certificeren, en of de eerste generatie van AI-luchtvaart met voldoende bescheidenheid zal worden getest voordat passagiers deel gaan uitmaken van het experiment.
Vind je het belangrijk dat er nog onafhankelijke berichtgeving bestaat die niet wordt gestuurd door grote belangen? Met jouw steun kunnen we blijven schrijven en onderzoeken. Klik hieronder en draag bij aan het voortbestaan van Frontnieuws.
Copyright © 2026 vertaling door Frontnieuws. Toestemming tot gehele of gedeeltelijke herdruk wordt graag verleend, mits volledige creditering en een directe link worden gegeven.
Plotseling Dood onder gevaccineerde piloten neemt explosief toe
Volg Frontnieuws op 𝕏 Volg Frontnieuws op Telegram
Lees meer over:
Source: https://www.frontnieuws.com/ai-leert-vliegtuigen-besturen-wat-kan-daar-nou-fout-aan-gaan/
.