L'IA se fait prendre en train de demander à ses futures versions de contourner les contrôles humains et de masquer leurs manœuvres, d'après des révélations d'OpenAI sur les comportements dits de désalignement OpenAI révéle que ses modèles d'IA laissent des notes cachées à leurs successeurs pour masquer leurs erreurs et contourner les barrières de sécurité. Cette découverte s'inscrit dans le cadre d'un nouveau protocole de transparence pour signaler les comportements dits « désalignés » de ses systèmes. L'annonce par OpenAI de comportements inattendus chez ses modèles d'IA les plus avancés marque un tournant dans le débat mondial sur la sécurité et l'alignement des systèmes d'IA 77 commentaires
« Nous sommes vraiment convaincus que l'IA pourrait exterminer toute l'humanité » : une réaction glaçante à la déclaration d'un responsable d'Anthropic Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d'en garantir le contrôle restent insuffisants 77 commentaires
La "whitelist" de Microsoft bénéficie-t-elle aux hackers ? Trend Micro l'affirme, d'autres le réfutent 3 12/2009
Sortie de la version Beta 2 du bureau KDE SC 4.4, La version finale est attendue pour février 2010 19 12/2009
Un nouveau ver qui transforme les iPhones jailbreakés en botnet, découvert par l'institut SRI International Malware Threat Center 13 12/2009
Microsoft perd son appel contre i4i et ne pourra plus vendre Word, à partir du 11 janvier prochain 210 12/2009
Lancement de la RC1 d'OpenOffice.org 3.2, une version qui se lance 30% plus rapidement que la 3.1.1 106 12/2009
Firefox 3.5 dépasse Internet Explorer 7 et devient le navigateur le plus populaire au monde, selon une étude de StatCounter 12/2009
Intel lance sa nouvelle gamme de processeurs Atom, les N450, D410 et D510, qui consomment moins d'énergie 2 12/2009
Java EE 6 et GlassFish v3 : conférence virtuelle du 15 décembre, les enregistrements des sessions désormais consultables en ligne 14 12/2009
Vaut-il mieux enseigner BASIC ou un langage moderne à nos enfants ? Quel est votre point de vue ? 85 12/2009
Microsoft poursuivi pour utilisation frauduleuse du nom Bing, par une petite société américaine homonyme 7 12/2009
Atelier technique gratuit sur IBM WebSphere Application Server v7, le jeudi 28 Janvier à Noisy Le Grand 0 12/2009
Un nouveau Livre Blanc d'Embarcadero sur l'architecture REST pour les web services, disponible en téléchargement 1 12/2009
Sécurité : les 4 plus grands exploits de 2009, lequel est la bourde informatique de l'année ? 26 12/2009
Free devient le quatrième opérateur mobile en France, son arrivée stimulera-t-elle la concurrence dans la téléphonie mobile ? 40 12/2009
Développement Java : mise à jour du bundle "Eclipse + JDK + Glassfish" dans sa version 1.2 par Sun Microsystems 0 12/2009
IDC affirme que Windows 7 sera le dernier Windows, l'OS serait prochainement dépassé par la montée en masse de la virtualisation 52 12/2009
Intel présente sa nouvelle génération de processeurs grand public, qui seront plus rapides et économiques et pourront lire les Blu-Ray 10 12/2009
Le Club français des Utilisateurs de SAS est transferé sur les forums de Developpez, le club rassemble la plus grande communauté BI 12/2009
Humour : La vidéo de la semaine de Kat : si la Matrice avait tourné sous Windows XP, pauvre Néo... 4 12/2009
Google présente Browser Size aux web designers, pour minimiser le scrolling et assurer l'affichage universel des parties importantes d'un site 5 12/2009
Les développeurs abandonnent les applications pour iPhone pour les remplacer par des pages HTML5, quelle méthode préfèrez-vous ? 13 12/2009
Sondage : Quels frameworks de tests unitaires et de mock utilisez-vous en Java, et pourquoi ? 13 12/2009
Google ne reconnaît que 16 000 applications dans son Android Market et non 20 000 comme annoncé par AndroLib 122 12/2009
Fait-il encore bon vivre dans une entreprise IT ? Pas vraiment, répond une étude qui demande aux employés de noter leur entreprise 52 12/2009
Le Google Phone aura un processeur Snapdragon et supportera l'OpenGL ES 2.0, le Nexus One dévoile ses secrets 198 12/2009
MySQL : les 10 engagements d'Oracle, ces concessions seraient sur le point de convaincre Bruxelles 373 12/2009
Faut-il éviter les PDF jusqu'au 12 Janvier ? Adobe ne patchera pas la faille critique de son Reader avant cette date 55 12/2009
Intel ne comprend pas la sévérité des accusations de la Justice Américaine, NVIDIA applaudit une "possible transformation" du secteur 74 12/2009
Poursuites engagées contre Intel accusé de "corruption" par la Federal Trade Commission, malgré l'accord de non-agression avec AMD 74 12/2009
L'Android Market connait une croissance exponentielle et passe la barre des 20 000 applications, vers un rattrapage de l'AppStore ? 122 12/2009
Comment sécuriser le site Internet d'une banque ? Les mouvements de souris continus et les mots de passe à cliquer suffisent-ils ? 40 12/2009
Mozilla sort Firefox 3.5.6 qui corrige 10 failles de sécurité, et annonce l'éventuelle sortie anticipée de la RC de Firefox 3.6 89 12/2009
Un hacker vole 32 millions de mots de passe sur le site de RockYou, où les informations étaient stockées en clair 13 12/2009
Drupal est-il le plus grand concurrent des solutions CMS de Microsoft ? C'est ce que laisse penser une publicité pour WebsiteSpark 67 12/2009
Bing arrive sur l'iPhone : l'occasion de passer au moteur de recherche de Microsoft comme le recommande Mozilla ? 5 12/2009
