L'IA se fait prendre en train de demander à ses futures versions de contourner les contrôles humains et de masquer leurs manœuvres, d'après des révélations d'OpenAI sur les comportements dits de désalignement OpenAI révéle que ses modèles d'IA laissent des notes cachées à leurs successeurs pour masquer leurs erreurs et contourner les barrières de sécurité. Cette découverte s'inscrit dans le cadre d'un nouveau protocole de transparence pour signaler les comportements dits « désalignés » de ses systèmes. L'annonce par OpenAI de comportements inattendus chez ses modèles d'IA les plus avancés marque un tournant dans le débat mondial sur la sécurité et l'alignement des systèmes d'IA 76 commentaires
« Nous sommes vraiment convaincus que l'IA pourrait exterminer toute l'humanité » : une réaction glaçante à la déclaration d'un responsable d'Anthropic Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d'en garantir le contrôle restent insuffisants 77 commentaires
Diaspora* devient plus communautaire, les fondateurs du réseau social open-source le relancent en partageant leur pouvoir de décision 50 08/2012
« Je peux m'emparer de votre mobile sous Android », affirme un ancien de la NSA qui exploite la gestion du NFC dans l'OS 11 08/2012
L'action de Nokia s'envole après la défaite de Samsung, Windows Phone pourrait devenir une alternative pour les constructeurs Android ? 8 08/2012
La Maison-Blanche fait de l'open source et publie sa première application sur GitHub, We The People est sous Drupal et MongoDB 25 08/2012
Faille de sécurité critique dans Java 7 Update 6, pouvant être exploitée pour installer des malwares, sa désactivation recommandée 89 08/2012
Sortie de première RC de PostgreSQL 9.2, annoncée par le PostgreSQL Global Development Group 4 08/2012
"Le problème que le XML résout n'est pas difficile, et il ne le résout pas bien": que manque-t-il le plus au langage ? 59 08/2012
"ToS;DR" note les conditions d'utilisations des services Web et les rend intelligibles, Twitpic bonnet d'âne 4 08/2012
SAP ouvre sa plateforme In Memory aux Startups et organise une série d'événements pour construire un écosystème autour d'HANA 2 08/2012
Google Analytics se rapproche des Google Apps, des scripts génèrent automatiquement des rapports d'analyse d'audience 0 08/2012
Quels jeux de composants open source utilisez-vous pour vos développements en JSF ? Partagez votre expérience 5 08/2012
Android bientôt dans l'espace ? La NASA construit un nanosatellite avec le smartphone Nexus One comme ordinateur de bord 25 08/2012
Internet Explorer a-t-il fait évoluer le Web ? Oui, estime un blogueur qui retrace les innovations dont le navigateur est à l'origine 37 08/2012
Sortie de Flash Player 11.4, parallélisation des tâches et accélération 3D au premier plan 16 08/2012
Recherche en ligne : Bing progresse, Google et Yahoo restent stables, le client Windows 8 du moteur de Microsoft adopte les tuiles 10 08/2012
Windows 8 : Microsoft met fin à la période de 30 jours d'activation du produit, la validation de l'OS désormais effectuée lors de l'installation 24 08/2012
Emails : les services Postini font leur transition vers Google Apps, la marque sera complètement abandonnée 0 08/2012
Unity sera compatible avec Windows 8 et Windows Phone 8, les applications utilisant le moteur de jeux 3D pourront être portées sur l'OS 1 08/2012
Twitter fête l'anniversaire de son Bootstrap et sort la version 2.1, quelle place occupe cette collection d'outils dans vos développements Web ? 3 08/2012
Anonymous cible le gouvernement britannique concernant Assange, par des attaques DDoS contre ses sites 52 08/2012
Google introduit les alertes référencement à ses outils pour Webmaster, pour traquer les causes des changements brusques de trafic 4 08/2012
Infinity.js : le nouveau plugin jQuery pour le défilement infini, rapide et stable de longues listes 20 08/2012
Google lance Octane, nouvelle suite de benchmark JavaScript pour la nouvelle génération d'applications Web 1 08/2012
Microsoft met en garde contre ChapCrack, un outil open source qui casse la sécurité de MS-CHAP V2 et PPTP utilisés sur les réseaux VPN 11 08/2012
Mono intègre Entity Framework et le support asynchrone de .NET 4.5, la version 2.11.3 disponible 3 08/2012
Windows Server 2012 Essentials sort en Release Candidate, la version finale sera publiée avant la fin de l'année 4 08/2012
Frankenstein : le virus qui s'assemble à partir de logiciels légitimes pour 'se fondre dans la foule' 17 08/2012
Quelle fonctionnalité apportée depuis Qt 4.0 vous paraît-elle la plus marquante de l'histoire de Qt 4 ? 2 08/2012
SkyDrive : les applications mises à jour pour Windows, Mac, iOS et Windows Phone, le stockage Cloud de Microsoft bientôt sur Android 3 08/2012
Vie privée : Google Analytics pourrait être suspendu en Norvège, le service violerait une loi sur la protection des données personnelles 13 08/2012
Google veut en finir avec les brevets logiciels, qui nuiraient au consommateur et à l'innovation 27 08/2012
Windows Phone bientôt devant BlackBerry ? L'OS de Microsoft prendra la 3e place en novembre aux USA, selon StatCounter 3 08/2012
