Impact van AI op governance

Praktische betrokkenheid
In 2014 werd een AI-systeem genaamd VITAL (Validating Investment Tool for Advancing Life Sciences) voor het eerst aangesteld als virtuele directeur door het in Hong Kong gevestigde Deep Knowledge Ventures. Hoewel dit experiment sindsdien is gestopt en mogelijk meer een publiciteitsstunt was, bracht het voor het eerst de potentiële rol van AI in bestuursorganen onder de aandacht van bedrijven en onderzoekers.

Nu AI aanzienlijke vooruitgang boekt met de nieuwste generatie chatbots, is de vraag hoe AI effectief en nuttig kan worden geïntegreerd in bestuursactiviteiten relevanter dan ooit. Elke raad van bestuur moet deze vraag voor zichzelf beantwoorden. AI kan worden gebruikt om:

• Aanvullende en rijkere informatie te verstrekken aan de raad of commissies.
• Advies te geven aan bestuurders over bepaalde managementtaken of beslissingen, waarbij rekening wordt gehouden met factoren zoals markttrends, prijzen, financiële gegevens en klantgevoelens.
• Logistieke en organisatorische aspecten van de raad te automatiseren, zoals het opstellen van agenda’s, het plannen van vergaderingen of het versturen van documentatie.
• Het opstellen van notulen te automatiseren, vooral wanneer deze moeten voldoen aan bepaalde interne vereisten of best practices.
• Proactief te wijzen op tekortkomingen in de besproken onderwerpen of zelfs schendingen van bepaalde regels, die volgens het “comply or explain”-principe niet (voldoende) zijn toegelicht.

AI onderscheidt zich van andere software door een bepaalde mate van autonomie, aanpassingsvermogen en zelflerend vermogen. Dit kan grote gevolgen hebben in een zakelijke omgeving. Daarom besteedt deze gids veel aandacht aan de rol van de menselijke factor (in dit geval de bestuurder) en de keuze voor een ethisch verantwoorde AI die aansluit bij de cultuur en waarden van het bedrijf.

Bestuurders blijven verantwoordelijk voor het kennen en aanpakken van de mogelijke risico’s van AI in alle stadia. Risico’s ontstaan wanneer de menselijke controle wordt geminimaliseerd bij de uitrol van AI binnen een organisatie of markt, of wanneer AI aanvankelijk slecht is ontworpen. Omdat AI tot op zekere hoogte eigen beslissingen kan nemen, mag men niet te snel handelen.

AI moet met uiterste zorg in de bestuurskamer worden gebruikt. Daarom moeten bestuurders zichzelf enkele vragen stellen bij het gebruik van AI:

• Wat moeten we overwegen om risico’s en kansen te monitoren?
• Welke beslissingen kunnen we delegeren aan een AI-systeem?
• Hoe kunnen we AI efficiënt en verantwoordelijk gebruiken binnen de raad van bestuur?
• Begrijpen we goed genoeg hoe het systeem tot bepaalde conclusies komt?
• Welke risico’s moeten we in de gaten houden bij besluitvorming binnen de raad?
• Wat zijn de gevolgen voor de aansprakelijkheid van bestuurders in geval van permanente delegatie van besluitvormingsbevoegdheden aan een AI-systeem?
• Zijn alle intellectuele eigendomsrechten over de door AI gebruikte data in het bezit van ons bedrijf?
• Zijn de juridische verantwoordelijkheden en implicaties van het gebruik van AI in de raad duidelijk?

Strategische rol

De raad van bestuur vervult een strategische rol door (in overleg met het management) te helpen bij het definiëren van de doelen van de organisatie, het kiezen van een passende strategie, het doen van de nodige investeringen en het monitoren van de uitvoering daarvan. Vanuit deze rol moet elke raad van bestuur tegenwoordig een visie en toekomstplan opstellen voor het gebruik van AI: hoe past het gebruik van AI in de bredere visie, missie en strategie van het bedrijf en de sector waarin het actief is? Immers, de impact van deze technologische ontwikkeling op de bedrijfsvoering, het bedrijfsmodel, de producten, de markten en de menselijke hulpbronnen kan enorm zijn. Een grondig debat over de strategische kansen en risico’s van AI hoort daarom zeker thuis in elke raad van bestuur.

Bij het gebruik van AI binnen de organisatie moeten bestuurders actief de implementatie monitoren en kritische vragen stellen aan het management. De raad moet nauw toezicht houden op de uitrol van ‘verantwoorde AI’ en deze indien nodig aanpassen. Het kiezen van de juiste AI-oplossingen voor het bedrijf zal voor veel bestuurders een lastige taak zijn. Maar zelfs als men besluit geen AI-toepassingen te gebruiken, moet dit een weloverwogen beslissing zijn. Dit kan betekenen dat men overweegt of het nuttig is om beslissingen of overwegingen met betrekking tot AI te delegeren aan een gespecialiseerde commissie.

Strategische vragen voor de raad van bestuur

Wij adviseren om regelmatig algemene AI-ontwikkelingen en lopende AI-projecten op de agenda van de raad of specifieke subcommissies te plaatsen. Het is belangrijk om de strategische waarde en potentiële risico’s duidelijk te begrijpen. Hier zijn enkele voorbeelden van strategische vragen:

• Kan AI de structurele concurrentiepositie van onze organisatie verzwakken (strategische risico’s) of versterken (strategische kansen)?
• Hoe kan AI extra waarde creëren voor onze klanten of andere stakeholders door bepaalde innovaties of verbeteringen?
• Welke strategische reflectie is nodig, zowel tijdens de ontwikkelings- of acquisitiefase, bij de marktintroductie als gedurende de gehele levenscyclus van elk AI-systeem?
• Hoe kan AI worden geïntegreerd in onze interne processen om onze strategische doelen te helpen bereiken (resourceplanning, projectmanagement, investeringsbeslissingen, complexe data-analyse)?
• Waar en hoe kan AI de productiviteit binnen het bedrijf verhogen of de kostenefficiëntie en processen verbeteren?
• Welke taken kunnen geautomatiseerd en geautonomiseerd worden binnen ons bedrijf? (Hier kan de raad ook actief experimenteren).

Praktische suggesties en waarschuwingen

De perfecte strategie of risico-analyse rolt niet automatisch uit een AI-systeem. Bestuurders moeten nog steeds hun eigen input leveren en de uiteindelijke strategie verder ontwerpen die is toegesneden op de organisatie.

Wanneer een bepaalde AI-technologie niet fundamenteel is voor de bedrijfsstrategie en er weinig toezicht nodig is, kan het volstaan om ad-hoc advies in te winnen van externe experts.

Naarmate de tijd verstrijkt, kan de raad zelf ook op inhoudelijke wijze gebruik maken van AI in aanloop naar en tijdens bestuursbeslissingen:

• Strategische lijnen trekken met informatie uit het verleden, het heden of de toekomst.
• Input combineren van verschillende bronnen, zoals gegevens van kredietbeoordelingsbureaus, informatie over acties van concurrenten, en initiatieven van andere externe stakeholders.
• Specifieke marktonderzoeken en SWOT-analyses voorbereiden.
• Sturing geven bij het navigeren door de due diligence van een M&A-beslissing.
• Actuele gegevens gebruiken om sneller te reageren op strategische kansen en bedrijfsrisico’s of crisisscenario’s.
• De meest veelbelovende productportefeuilles of productielijnen suggereren.
• Verschillende alternatieve scenario’s en kansen per bedrijfsunit analyseren.
• Succespercentages berekenen van strategische kansen, inclusief hun impact op verschillende stakeholders.
• Budgetten optimaal afstemmen op strategische doelen.

Uiteraard mogen deze AI-uitkomsten nooit kritiekloos worden overgenomen: bestuurders moeten hun eigen strategische inzichten en competenties blijven ontwikkelen en verfijnen om goed geïnformeerde eindbeoordelingen te kunnen maken.

Monitorende rol

Startpunt
De raad van bestuur moet toezicht houden op het management en, in bredere zin, op de hele organisatie. Vanuit deze toezichtrol moet de raad ook het gebruik van AI monitoren. Dit omvat aspecten zoals gegevenskwaliteit, efficiëntie, technische beveiliging en juridische risico’s, binnen het overkoepelende kader van de waarden van de organisatie.

Het ontwerp van AI kan onbedoelde schade veroorzaken aan de samenleving of individuen, bijvoorbeeld als het leidt tot ongewenste of ongerechtvaardigde vooroordelen. Transparantie over welke dimensies of criteria het algoritme optimaliseert, is altijd cruciaal. Menselijke controle blijft noodzakelijk, al is het op zijn minst via systemen waar menselijke tussenkomst (human-in/on-the-loop) mogelijk is. In de praktijk zijn er verschillende niveaus van menselijke interventie, waarbij autonome efficiëntie moet worden afgewogen tegen menselijke controle.

Controlevragen voor de raad van bestuur
Enkele algemene vragen die hier aan de orde kunnen komen, zijn:

• Hoe kan AI helpen bij een betere afstemming van prestatiemetingen, inzet van middelen, risiconiveau, interne operationele procedures en controles, en noodvoorbereidingen op de bedrijfsdoelen?
• Welke algoritmes gebruiken we voor welke diensten of processen?
• Hoe maakt AI zijn keuzes? (AI mag geen “black box” zijn).
• Hoe blijven onze medewerkers betrokken bij de ontwikkeling, delegatie of besluitvorming? (denk aan de rol van human-in-the-loop)
• Hoe kan AI worden gebruikt om cybersecurity-risico’s aan te pakken?
• Kan een specifiek gebruik van AI nieuwe strategische, operationele of juridische risico’s creëren?

Daarnaast kunnen meer gedetailleerde of specifieke onderwerpen worden onderzocht, zoals:

• Wat als een AI-systeem enige besluitvormingsbevoegdheid krijgt, bijvoorbeeld de autorisatie om automatische aankopen/verkooptransacties te doen of geautomatiseerde antwoorden aan klanten te geven?
• Wat als ons AI-systeem ‘vervuilde’ data gebruikt en discriminerende conclusies trekt?
• Voldoen we aan de wetgeving inzake gegevensbescherming als de datasets van AI gebruik maken van persoonlijke gegevens van klanten?
• Welke mogelijke risico’s zijn er als personeel AI (zoals ChatGPT) op eigen initiatief gebruikt om bepaalde taken uit te voeren?
• Wat als bedrijfsgeheimen of klantgegevens in AI-platforms terechtkomen en zo eindigen in toekomstige datasets van ontwikkelaars van fundamentele AI-modellen?
• GDPR: Is de organisatie zelf eigenaar/auteur van de gebruikte data of, zo niet, heeft het voldoende gebruiksrechten?
• Hoe moet de gedragscode eruitzien (transparantie, privacy en beveiliging, eerlijkheid en verantwoordelijkheid) bij de ontwikkeling, uitrol en het gebruik van AI?

Praktische suggesties en waarschuwingen

• Ontwikkel een sterk databeheer, aangezien de gegevens waarop AI wordt getraind, moeten zijn gebaseerd op echte bedrijfsgegevens van de eigen of andere bedrijven.
• Zorg ervoor dat bedrijfsgevoelige data niet terechtkomen in externe AI-databases of bij concurrenten.
• Stel beveiligingsprotocollen op voor financiële en strategische gegevens die binnen de raad van bestuur worden besproken.
• Probeer altijd te begrijpen hoe AI tot een bepaalde conclusie komt door inzicht te krijgen in de gebruikte data en algoritmes.
• Wees alert op reputatieschade als een deel van de communicatie met klanten wordt geautomatiseerd en niet wordt gecontroleerd op contraproductieve berichten.
• Voorkom dat bestuurders worden overspoeld met te veel data, ratio’s of diverse indicatoren. Bestuurders moeten leren onderscheid te maken tussen essentiële en niet-essentiële informatie en bepalen wanneer AI bepaalde informatie moet delen.
• Vertrouw nooit blindelings op de output van AI. De juiste data-invoer blijft cruciaal, want verkeerde brondata leidt tot slordige analyses. Vooral met betrekking tot klantgegevens en boekhoudcijfers moet de raad ervoor zorgen dat ingevoerde data goed is beschermd en alleen relevante personen toegang hebben tot de data.
• Realiseer je dat AI geen kant-en-klare oplossingen biedt. De creatieve respons op een probleem moet altijd van de bestuurder zelf komen. AI kan echter ook bijdragen aan de monitorende rol van de raad van bestuur. Veel taken kunnen gedeeltelijk of volledig worden geautomatiseerd of geautonomiseerd dankzij AI:
• Geautomatiseerde rapportage over financiële en niet-financiële prestatie-indicatoren (al dan niet in real-time).
• Signalering van risicosituaties, zoals financiële ratio’s die afwijken van de sectorgemiddelden.
• Autonome ondersteuning bij investeringsbeslissingen.
• Automatische gegevensverzameling en informatieverwerking in het kader van audits.
• Effectieve analyse van alle data om sneller fraude, overtredingen of verdachte transacties bloot te leggen.
• Het overbruggen van de informatieasymmetrie met het management, doordat bestuurders zelf verschillende informatie kunnen opvragen.
• Een scan van de naleving van sectorspecifieke wettelijke vereisten of naleving van Europese rapportageverplichtingen.
• Analyse van communicatiestromen of transactiegegevens om fouten of tekortkomingen te rapporteren, zelfs in zaken die voorheen niet werden gemonitord.

Afstemming van waarden
Om verantwoord en betrouwbaar gebruik van AI te waarborgen, is het noodzakelijk dat de raad van bestuur, in samenwerking met het management, het zogenaamde “value alignment”-probleem overweegt. Dit probleem draait om hoe autonome AI-systemen moeten worden ontworpen en ingezet, zodat hun doelen en gedrag in lijn zijn met menselijke waarden. Aangezien AI geen emoties, empathie of moreel kompas heeft, is het cruciaal om het ethische kader binnen AI vast te stellen. Dit ethische aspect moet idealiter de waarden van het bedrijf weerspiegelen, maar moet ook voldoen aan wettelijke kaders en de wensen van aandeelhouders en andere stakeholders.

Bestuurders bepalen en communiceren welk menselijk waardekader moet worden geïmplementeerd in de bestaande AI-systemen. De typische gelaagde architectuur van AI-technologie (met onderliggende hardware, fundamentele modellen en algoritmes en eindgebruikersdiensten) impliceert concrete strategische vragen over welke investeringen op elk niveau nodig zijn.

Het gebruik van AI vereist ook waakzaamheid op het gebied van (bedrijfs)waarden, cultuur en normen:

• Zorg voor de eerlijkheid, transparantie en verantwoordelijkheid van het systeem wanneer het wordt gebruikt voor risico-assessments.
• Benadruk voortdurend het belang van veilige en ethische AI-praktijken in de hele organisatie.
• Ontwikkel een duidelijk intern AI-governancekader met richtlijnen, processen en interne training.
• Realiseer je dat AI op geen enkele manier de taken en verplichtingen van bestuurders verlicht, vergemakkelijkt of vervangt. Het is niet de bedoeling dat AI de taken en verplichtingen van bestuurders overneemt.
• Wees voorbereid op vragen van aandeelhouders en andere stakeholders over de betrouwbaarheid en effecten van AI-beslissingen.
• Als raad van bestuur of benoemingscommissie, houd toezicht op de ethische dimensie in selectieprocedures om discriminatie op beschermde categorieën te vermijden, zoals gesuggereerd door AI-profielen voor leidinggevenden en externe bestuurders.

Leiderschapsrol

Startpunt
In zijn leiderschapsrol is de raad van bestuur verantwoordelijk voor de selectie, benoeming en het ontslag van het management. Het delegeren van besluitvormingsbevoegdheden aan het management en het evalueren ervan vallen ook onder deze rol. Mogelijke leiderschapstaken van de raad die door AI kunnen worden ondersteund, zijn onder meer:

• Algoritmische ondersteuning bij de selectie van kandidaten voor leiderschapsposities door middel van objectieve analyse van de competentiematrix en de koppeling met de strategie.
• (Ondersteuning bij) de evaluatie van het topmanagement door middel van geautomatiseerde monitoring van prestaties op basis van specifieke KPI’s.
• Onafhankelijk advies in het beloningsproces en de vaststelling van salaris/bonussen door objectieve verwerking van gespecificeerde parameters.

AI kan in de komende jaren ook een belangrijke ondersteunende rol spelen op bredere HR-gebieden. In dat geval moet de raad bepalen in hoeverre besluitvormingsautonomie, die voorheen alleen door menselijke leidinggevenden werd uitgeoefend, kan worden gedelegeerd aan het AI-systeem. Het delegeren van bevoegdheden aan AI vereist echter veel aandacht en zorg van de raad. AI moet goed worden begeleid en gemonitord.

Praktische suggesties en waarschuwingen

• Tijdens het selectieproces van leidinggevenden moet de benoemingscommissie de vertrouwelijkheid van de profielen waarborgen. Voor aspecten van selectie en evaluatie moet de raad of benoemingscommissie begrijpen welke criteria door het AI-algoritme worden geoptimaliseerd.
• De raad moet ook een duidelijk beeld vormen van wat AI niet kan verwerken in HR-processen. Werving, ontslag en evaluatie vereisen nog steeds aanzienlijke menselijke tussenkomst.
• De potentiële massale automatisering van verschillende werkprocessen kan leiden tot hogere werkloosheid. Dit kan discussies uitlokken over omscholing en levenslang leren.
• Bestuurders zullen moeten overwegen hoe AI het onderwerp kan worden van bepaalde sociale onderhandelingen.
• De automatisering van bepaalde deeltaken door AI kan druk uitoefenen op de relatie tussen werkgevers en bepaalde categorieën werknemers, met inbegrip van kwesties zoals gegevensrechten (data copyright).

Conclusie
Het benadrukt dat AI aanzienlijke voordelen kan bieden aan corporate governance, waaronder verhoogde efficiëntie, betere besluitvorming en ondersteuning bij strategische en operationele taken. Toch is voorzichtigheid geboden bij de implementatie en het gebruik van AI. Bestuurders moeten ervoor zorgen dat AI-systemen transparant, ethisch verantwoord en in lijn met de bedrijfswaarden worden ingezet. Hoewel AI kan bijdragen aan belangrijke besluitvormingsprocessen, blijft de menselijke factor essentieel. De uiteindelijke verantwoordelijkheid en controle moeten altijd bij de bestuurders zelf blijven liggen om ervoor te zorgen dat AI effectief en veilig wordt gebruikt binnen de organisatie.