3. La Declaració de Barcelona

Impulsat pels líders del B·Debate Luc Steels –professor ICREA a l'Institut de Biologia Evolutiva de Barcelona– i Ramon López de Mántaras –director de l'Institut d'Investigació en Intel·ligència Artificial de Barcelona–, durant la trobada es va proposar i es va consensuar la "Declaració de Barcelona per a l'adequat desenvolupament i utilització de la intel·ligència artificial a Europa", un manifest obert a noves firmes i comentaris que pretén servir de guia per al progrés de la intel·ligència artificial. El manifest reconeix la gran importància d'aquest camp en el futur de l'economia i les societats, però també la preocupació pel possible ús inadequat, prematur o maliciós de les noves tecnologies. En base a això, proposa un codi de conducta articulat al voltant de sis punts:

• Prudència: malgrat el desenvolupament de la intel·ligència artificial i les seves possibilitats, molts problemes fonamentals encara no estan resolts i requeriran avenços radicals. Fins i tot és possible que alguns problemes mai es resolguin.
• Fiabilitat: els nous mètodes han de ser verificats abans d'estar disponibles. La nova agència per a la robòtica i la intel·ligència artificial creada pel Parlament Europeu podria assumir aquesta responsabilitat.
• Transparència: quan un sistema d'intel·ligència artificial pren una decisió, les persones afectades han de poder rebre una explicació de per què s'ha pres aquesta decisió. No obstant això, moltes de les tècniques que "expliquen" els processos interns del sistema encara no estan ben desenvolupades.
• Responsabilitat: hi ha una preocupació creixent pels sistemes de missatgeria automàtica o xat-bots que operen a internet i són capaços de manipular a l'opinió pública. Cal deixar clar als usuaris si els missatges procedeixen d'un sistema d'intel·ligència artificial.
• Autonomia restringida: els sistemes d'intel·ligència artificial, quan estan inclosos en sistemes físics com els cotxes autònoms, tenen el potencial d'actuar a través de les seves decisions en el món real. Cal tenir regles clares que limitin la seva autonomia, així com aclarir qui és el responsable en cas de fallada.
• El paper humà: l'entusiasme per la intel·ligència artificial dóna lloc en ocasions a la impressió que la intel·ligència humana ja no serà necessària. Això és un error important. Tots els sistemes depenen de la intel·ligència humana, de manera que l'experiència de les persones ha de continuar sent ensenyada, desenvolupada i exercida.

Finalment, donada la importància creixent de la intel·ligència artificial en l'economia, els signants del manifest criden a les agències de finançament europees i les empreses a invertir en el seu desenvolupament de forma adequada i estructural, creant les condicions per estimular l'emprenedoria. A més, subratllen la importància de desenvolupar plataformes de recursos oberts, una infraestructura comuna compartida que afavoreixi el desenvolupament de les properes innovacions.