AI-paarprogrammering heeft valkuilen

Ondanks de duidelijke voordelen – waarvan er vele werden uiteengezet in de GitHub-enquête – moeten ontwikkelaars op hun hoede zijn voor door AI voorgestelde code-aanvullingen omdat ze niet gegarandeerd nauwkeurig zijn, zei Chris Riley, senior manager ontwikkelaarsrelaties bij marketingtechnologiebedrijf HubSpot. Ontwikkelaars moeten alle suggesties nauwlettend in de gaten houden, wat elk opgeslagen zoeken op ontwikkelaarssites naar codefragmenten kan tenietdoen, zei hij.

Een ander punt van zorg is de draagbaarheid, zei Riley. Als een aanzienlijk percentage van de code door AI wordt voorgesteld, kunnen ontwikkelaars die code mogelijk niet ondersteunen als deze de oorzaak is van een productieprobleem, zei hij.

Naast vragen over toepasbaarheid en ondersteuning, introduceren bots voor het voltooien van code unieke beveiligingsproblemen. Hoewel sommige tools voor het voltooien van code, zoals Kite Team Server, achter de firewall van een bedrijf kunnen draaien, vertrouwen andere op openbare artefactrepository’s, die mogelijk onveilig zijn, zei Riley. Het kan bijvoorbeeld mogelijk zijn voor aanvallers om het model te misbruiken om zero-day-kwetsbaarheden binnen te sluipen, zei hij.

Door de gemeenschap verstrekte code voegt een ander potentieel belangrijk struikelblok toe: auteursrechtelijke problemen. Omdat programmeertools voor AI-paar worden getraind op een breed scala aan code met verschillende licentieovereenkomsten, wordt het moeilijk om het eigendom vast te stellen, zei Schmelzer van Cognilytica. Bovendien, als de codegenerator wordt getraind op gegevens van gedeelde coderepositories – met name GitHub – dan kunnen ontwikkelaars auteursrechtelijk beschermde of privécode mengen met openbare code zonder enige geïdentificeerde bron, zei hij.