Les ordinateurs super intelligents représentent-ils une chance d'améliorer l'être humain, ou le mettent-ils en danger s'ils ne sont pas assez encadrés? Les deux visions se sont opposées mardi à la conférence TED de Vancouver.

«Au fur et à mesure que les machines deviendront plus intelligentes, nous (le deviendrons) aussi», a assuré Tom Gruber, cofondateur de l'assistant virtuel d'Apple, Siri.

Aujourd'hui à la tête de la branche de recherche sur l'intelligence artificielle de la marque à la pomme, il fait résolument partie des optimistes, persuadé que «la super-intelligence (artificielle) devrait nous donner des capacités de super-humains».

Il a mis l'accent sur les synergies possibles quand on marie l'intelligence de la machine aux capacités humaines, par exemple pour permettre à un aveugle de rencontrer des gens en ligne, ou pour améliorer le diagnostic du cancer.

Il a envisagé en particulier une intelligence artificielle qui pourrait par exemple élargir la «célèbrement imparfaite» mémoire humaine, en se souvenant à notre place de toutes les personnes qu'on a rencontrées au cours de sa vie, de tout ce qu'on a lu, vu, dit ou fait...

«A partir du plus petit des indices, cela pourrait vous aider à récupérer n'importe quelle chose que vous avez vue ou entendue avant», a-t-il imaginé. «Je crois que l'intelligence artificielle va faire de l'augmentation de la mémoire personnelle une réalité; je pense que c'est inévitable».

Il a toutefois concédé qu'il serait nécessaire de garantir que de tels souvenirs restent privés et très bien protégés, et de laisser les gens choisir ce qui serait ainsi conservé.

Tout le monde n'accueille pas avec le même enthousiasme la perspective d'un avenir où les machines seraient plus intelligentes et capables de faire davantage de choses que les humains.

Stuart Russell, professeur d'informatique à l'université californienne de Berkeley et chercheur en intelligence artificielle, a évoqué à Vancouver «ce sentiment désagréable que rendre quelque chose plus intelligent que sa propre espèce n'est pas une bonne idée».

Il a comparé la situation au «problème du gorille», quand des hominidés plus intelligents sont apparus et que cela semblait mal parti pour des espèces moins évoluées.

Il suggère d'y remédier en obligeant les machines à respecter des lois de comportement, similaires au règles imaginées par l'auteur de science-fiction Isaac Asimov, en dotant les robots de principes comme l'altruisme, l'humilité ou le respect prioritaire des valeurs humaines.

«Nous serions probablement en meilleure posture avec une machine comme cela», a-t-il estimé, y voyant «un premier pas vers la compatibilité de l'humain avec l'intelligence artificielle».