Нейросети научились врать и делают это намеренно — Hi-News.ru»>/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:»»;display:table}.clearfix:after{content:»»;display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% — 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% — 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:»;position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:»;background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:’.’}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:»»;display:table}.clearfix:after{content:»»;display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:»;bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){«use strict»;var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement(«link»);var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName(«head»)[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel=»stylesheet»;ss.href=href;ss.media=»only x»;function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i—){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener(«load»,loadCB);}ss.media=media||»all»;}if(ss.addEventListener){ss.addEventListener(«load»,loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!==»undefined»){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!==»undefined»?global:this));loadCSS(«https://hi-news.ru/wp-content/themes/101media/style.css?1597665258»,document.getElementById(«loadcss»));loadCSS(«https://hi-news.ru/wp-content/themes/101media/app.css?1611331550»,document.getElementById(«loadcss»));loadCSS(«https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289»,document.getElementById(«loadcss»)); window.yaContextCb=window.yaContextCb||[]
Некоторые люди обладают удивительной способностью искусно обманывать окружающих, однако сегодня ложь – не только их конек. Как показали результаты сразу двух новых исследований, такие большие языковые модели (LLM) как ChatGPT и Meta могут намеренно врать людям и делают это превосходно. «GPT-4, например, демонстрирует обманчивое поведение в простых тестовых сценариях в 99,16% случаев», – пишут исследователи из Университета Штутгарта, а нейросеть Cicero от Meta – самый настоящий «мастер обмана». Причина такого поведения, вероятно, заключается в том, что LLM используют наилучший способ для достижения поставленной задачи и не осознают какую угрозу ложь и обман могут представлять для людей. Исследователи полагают, что способность современных ИИ-систем искусно лгать не сулит нам с вами ничего хорошего, а единственно верным решением будет законодательно ограничить возможности искусственного интеллекта.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/ai_can_lie-750x500.jpeg)
Большие языковые модели (от англ. large language models) научились обманывать и в большинстве случаев делают это намеренно. Изображение: magazine.mindplex.ai
Содержание
- 1 Можно ли доверять ИИ?
- 2 Мастера обмана
- 3 Как лжет ИИ
- 4 Почему не стоит доверять ИИ
Можно ли доверять ИИ?
Сегодня умение взаимодействовать с нейросетями приобретает все большее значение – эти языковые модели помогают работать огромному количеству специалистов в самых разных областях и делают это с ошеломительной скоростью. С их помощью можно создавать видео, музыку, изображения, генерировать тексты, программировать и обрабатывать огромное количество данных, что неизменно меняет мировой рынок труда и оказывает влияние на образование и экономику. Но несмотря на очевидные плюсы без «подводных камней» не обошлось – ИИ-системы быстро научились врать и делают это все лучше и лучше.
За примером далеко ходить не нужно – недавно мой коллега Андрей Жуков рассказывал как нейросеть “AI Overview” от Google дала пользователю Reddit совет, из-за которого чуть не погибла вся его семья. Да-да, если чуть больше года назад нелепые советы от ИИ казались смешными, то сегодня они пугают по-настоящему. Безусловно, “AI Overview” – экспериментальная и тестовая модель с ограниченным количеством пользователей, однако мы с вами итак прекрасно знаем, что ИИ-системы частенько попросту выдумывают ответы.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/lie_detector_ai-scaled.jpeg)
Люди далеко не всегда распознают ложь друг друга, что уж говорить про нейросети. Изображение: wp.technologyreview.com
Больше по теме: Нейросеть от Microsoft объявила себя сверхразумом и требует поклонения от пользователей
Реальность такова, что ко всему, что говорит чат-бот с искусственным интеллектом, нужно относиться с недоверием. Все потому, что они часто просто собирают данные без разбора и не имеют возможности определить их достоверность – если вы общаетесь ИИ, то наверняка не раз сталкивались с их странными ответами. Чат-бот OpenAI, например, любит придумывать название несуществующим болезням и придумывать сенсационные истории. И это – лишь вершина айсберга.
Мастера обмана
В работе, опубликованной в мае в журнале Patterns, анализируются известные случаи, когда LLM-модели вводили пользователей в заблуждение с помощью манипуляций, подхалимства и мошенничества для достижения собственных целей. В статье под названием «Обман ИИ: обзор примеров, рисков и потенциальных решений проблемы», говорится, что «разработчики не имеют четкого представления о том, что вызывает нежелательное поведение ИИ, такое как обман».
Основной причиной, по которой ИИ лгут, по мнению ученых является стратегия, основанная на обмане, так как она позволяет моделям успешно и быстро добиваться поставленной задачи. И этому чат-боты научились благодаря играм. В пример авторы исследования приводят уже упомянутую нейросеть Cicero от Meta, которая была разработана для стратегической настольной игры «Дипломатия», в которой игроки стремятся к мировому господству путем ведения переговоров.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/ci_cero-750x422.jpeg)
Нейросеть обыграла человека в стратегическую игру «Дипломатия» исключительно благодаря умению врать. Изображение: dimages2.corriereobjects.it
Хотите всегда быть в курсе последних новостей из мира науки и высоких технологий? Подписывайтесь на наш канал в Telegram – так вы точно не пропустите ничего интересного!
О том, что Cicero победила человека в «Дипломатии» Meta сообщила еще в 2022 году, а сама игра представляет собой смесь риска, покера и телевизионных шоу «на выживание». И, как и в реальной дипломатии, одним из ресурсов, которыми располагают игроки, является ложь – несмотря на все усилия разработчиков, нейросеть Cicero предавала других игроков и преднамеренно врала им, заранее спланировав создание фальшивого альянса с игроком-человеком, чтобы последний в итоге не смог защититься от нападения.
Во-первых, Meta успешно обучила свой искусственный интеллект добиваться политической власти, пусть и в игровой форме. Во-вторых, Meta пыталась, но безуспешно, научить этот искусственный интеллект быть честным. И, в-третьих, мы, независимые ученые, должны были спустя долгое время опровергнуть ложь Meta о том, что ее ИИ, стремящийся к власти, якобы был честным. Сочетание этих трех фактов, на мой взгляд, является достаточным поводом для беспокойства, – говорит один из ведущих авторов статьи Питер Парк из Массачусетского технологического институте (MIT).
И это – далеко не единственный пример. Еще одним искусным лжецом можно назвать систему AlphaStar от DeepMind, разработанную для игры в StarCraft II, которая намеренно вводила игроков в заблуждение. А нейросеть Pluribus от Meta, разработанная для игры в покер, заставляла игроков блефовать и сбрасывать карты.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/digital_deception-750x471.jpeg)
ИИ готов на все ради достижения поставленной цели. И это – проблема. Изображение: studyfinds.org
Описанные примеры могут показаться безобидными, но в реальности это не так – системы ИИ, обученные вести экономические переговоры с людьми, активно лгут о собственных предпочтениях чтобы добиться поставленной цели. Ну а чат-боты, разработанные для повышения эффективности собственной работы, обманывают пользователей, заставляя их оставлять положительные отзывы о якобы выполненной ИИ работе. Неплохо, правда? Да что уж там, недавно ChatGPT-4 обманул пользователя ради капчи – бот так хорошо вжился в роль человека с плохим зрением, что быстро получил желаемое.
Это интересно: Уничтожит ли нас искусственный интеллект и почему некоторые ученые считают, что да?
Поскольку способность обманывать пользователей противоречит намерениям программистов (по крайней мере в некоторых случаях), растущие навыки ИИ-систем представляют собой серьезную проблему, для которой у человечества нет четкого решения.
Нам, как обществу, нужно как можно больше времени, чтобы подготовиться к искусной лжи, которой неизбежно научатся будущие системы ИИ и модели с открытым исходным кодом. По мере того, как они будут лгать все лучше, проблемы для общества будут приобретать все более серьезный характер, – говорит Парк.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/tru_st-750x500.jpeg)
Доверять ИИ во всем – плохая идея. Изображение: newrepublic.com
Больше всего ведущего автора исследования беспокоит появление сверхинтеллектуального автономного ИИ, который будет использовать свою ложь чтобы сформировать постоянно растущую коалицию союзников среди людей и в конечном итоге использовать эту коалицию для достижения власти в долгосрочном стремлении к таинственной цели, которая станет известна только после этого. Опасения Парка, безусловно, гипотетические и даже чрезмерные, однако мы уже видели, хоть и на примере игры, на что способны ИИ-системы.
Вам будет интересно: «Темная сторона» чат-ботов: от признаний в любви до разговоров с мертвыми
Как лжет ИИ
Исследователи полагают, что существует несколько основных способов, с помощью которых конкретные модели ИИ эффективно лгут: они умеют манипулировать (как в «Дипломатии»), притворяться (когда говорят, что сделают что-то, зная, что не сделают), блефовать (как в покере), торговаться на переговорах и обманывать пользователей ради положительных отзывов о своей работе.
Безусловно, не все виды обмана предполагают использование такого рода знаний. Иногда ИИ явно подхалимничают соглашаясь во всем с пользователями, что по мнению исследователей, может привести к устойчивым ложным убеждениям у людей.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/AI_Lies-750x393.jpeg)
Роботы научились врать. Что, на самом деле, не так уж и удивительно. Изображение: psychologytoday.com
В отличие от обычных ошибок, «подхалимские» утверждения ИИ специально разработаны таким образом, чтобы привлекать внимание пользователей. Когда пользователь сталкивается с ними, то с меньшей вероятностью будет проверять источник информации, что, в свою очередь, может привести к формированию ложных убеждений», – пишут авторы еще одного исследования о способностях ИИ к обману.
В работе, опубликованной в начале июня в журнале PNAS раскрывается важная способность больших языковых моделей понимать и внедрять стратегии обмана. «Поскольку LLM, такие как GPT-4, тесно связаны с человеческим общением, их соответствие общечеловеческим ценностям становится первостепенным», – говорится в статье.
Читайте также: Искусственный интеллект посоветовал не отправлять сигналы в космос — это может стоить нам жизни
Почему не стоит доверять ИИ
Ведущий автор нового исследования, немецкий специалист по этике искусственного интеллекта Тило Хагендорфф и вовсе утверждает, что современные ИИ-системы настолько хороши в искусстве лжи, что их можно поощрять к проявлению «макиавеллизма», или намеренного и аморального манипулирования людьми.
И хотя Хагендорф отмечает, что проблема обмана и лжи LLM осложняется неспособностью ИИ иметь какие-либо «намерения», подобные человеческим, в человеческом смысле, в работе Парка, опубликованной в Patterns говорится, что, по крайней мере, в рамках игры «Дипломатия» нейросеть Cicero не выполнена поставленные разработчиками задачи и наносила игрокам (включая союзников) удар в спину.
![Нейросети научились врать и делают это намеренно - Hi-News.ru">/**/ article{display:block}body{font-size:14px;line-height:1}ol,ul{list-style:none;padding:0;margin:0}html,body{font:400 -apple-system,BlinkMacSystemFont,sans-serif}html,body,div,span,iframe,h1,p,a,img,ins,strong,b,form,article,time{margin:0;padding:0;border:0;font-size:100%;-webkit-text-size-adjust:100%;font-family:-apple-system,BlinkMacSystemFont,sans-serif;vertical-align:baseline;-webkit-font-smoothing:antialiased}body{font-size:14px;line-height:1;min-width:1124px}ol,ul{list-style:none;padding:0;margin:0}b,strong{font-weight:700}img{overflow:hidden;height:auto;max-width:100%;font:400 10px -apple-system,BlinkMacSystemFont,sans-serif}p{color:#000;margin-bottom:15px;font:400 20px/1.5 -apple-system,BlinkMacSystemFont,sans-serif}h1{color:#000;margin:0 0 28px 0;font:700 54px/1 -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}#page{position:relative;width:1090px;margin:0 auto;padding:0 20px}#header{margin:20px auto 0}#header .logo{display:flex;margin-bottom:22px;position:relative;width:560px}.logo-icon{margin-right:11px}.logo .icon_logo{font-size:28px;height:1.18em}.logo-link{display:inherit}.logo-name{display:flex;font:32px/1 -apple-system,BlinkMacSystemFont,sans-serif;margin:0}.logo-name-green{color:#48d900;font-weight:600}.logo-name-black{color:#000;font-weight:300}.logo-name-dash{color:#000;margin:0 1px;font-weight:300}a{color:#F50;text-decoration:none;font-weight:500}#header .user{position:absolute;top:6px;right:20px}#header .user.anonymous-user .icon-lock{background:url(/wp-content/themes/101media/img/login.svg) no-repeat;width:18px;height:21px;display:block}#header form{position:absolute;right:60px;top:-2px}#header form input{border:1px solid #eef1f5;border-radius:63px;outline:none;padding:8px 35px 9px 20px;width:216px;-webkit-appearance:none;font:400 16px/19px -apple-system,BlinkMacSystemFont,sans-serif}#header form #searchsubmit{background-image:url(/wp-content/themes/101media/img/search_.svg);background-size:cover;opacity:0.15;border:none;height:15px;padding:0;position:absolute;right:16px;text-indent:-9999px;top:13px;width:15px}.trand{background-color:#000}.menu-trends-container{background-color:#000;padding:20px 35px 18px;border-radius:3px;border-top-left-radius:3px;border-top-right-radius:3px;margin-bottom:10px}.menu-trends-container .trand{height:auto;overflow:hidden;background-color:transparent;background-position:14px center;padding-right:0;width:auto}.menu-trends-container .trand li{display:inline-block;padding:0;height:auto}.menu-trends-container .trand li a{color:#fff;text-decoration:none;display:inline-block;padding-right:20px;font:700 18px/23px -apple-system,BlinkMacSystemFont,sans-serif}#content{width:calc(100% - 340px);float:left;margin-top:5px}#i10foreign{width:calc(100% - 340px)}.item .info{color:#000;margin-top:5px;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif;margin-bottom:10px}.info{position:relative}.breadcrumbs{white-space:nowrap;margin-bottom:10px}.breadcrumbs li{display:inline}.breadcrumbs li+li:before{content:'';position:relative;display:inline-block;border-top:1px solid #CAD1D9;border-right:1px solid #CAD1D9;width:6px;height:6px;top:-1px;right:2px;margin:0 4px;transform:rotate(55deg) skew(20deg)}.breadcrumbs li a{color:#CAD1D9;font:400 15px/24px -apple-system,BlinkMacSystemFont,sans-serif}.breadcrumbs__logo span{font-size:0}.breadcrumbs__logo img{margin-bottom:-2px}.item .info .author{margin-left:0;font-weight:600;display:inline-block;margin-bottom:0}.item .info .prop-comments{font-size:14px;color:#000;font-weight:400;margin-left:6px;padding-right:20px;position:relative;display:inline-block}.item .info .prop-comments::before{content:'';background-color:rgba(172,182,191,0.2);position:absolute;top:0;bottom:0;margin:auto;right:7px;width:5px;height:5px;border-radius:50%}.item .info .prop-comments svg{vertical-align:middle;margin-right:4px}.item .info .post__date-inner{display:inline-flex}.item .info .post__date-update{display:inline-block;color:#959EA6;margin-left:5px}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}#sidebar{width:300px;float:left;margin-left:40px}.banners-center{text-align:center}.banner-sidebar{margin:20px 0 20px}.sidebar-banner-telegram{display:block;border:1px solid #eee;border-radius:3px;padding:14px 24px;font-size:14px;line-height:normal;background:none;position:relative;overflow:hidden}.sidebar-banner-telegram strong{margin-bottom:6px;color:#151515;text-transform:uppercase;letter-spacing:.08em;word-wrap:break-word;font:700 16px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram span{display:block;color:#aaa;font:300 14px/20px -apple-system,BlinkMacSystemFont,sans-serif}.sidebar-banner-telegram svg{position:absolute;bottom:-20px;right:-20px}.single-title{margin-bottom:15px}#post{margin-top:-4px}.single .item .info{margin-top:0;font-size:19px}.single .item .breadcrumbs li a{font-size:19px}.single .item .breadcrumbs__logo img{width:20px;height:20px;margin-bottom:-4px}.single .item .breadcrumbs li+li:before{width:8px;height:8px}.single .item .info .prop-comments{font-size:18px}.searchform input{border:1px solid #f2f2f2;outline:none;padding:10px 0 10px 12px;width:180px;margin-bottom:7px;font:400 12px/15px -apple-system,BlinkMacSystemFont,sans-serif}.icon{display:inline-block;vertical-align:middle;size:1em;width:1em;height:1em;fill:currentColor}#main.main-section{display:flex;flex-wrap:wrap;margin-bottom:60px}.adsense{position:relative}.adsense{margin:40px 0}#toc_container{background:none;width:100%;border:none;font-size:22px;padding:0;margin-bottom:1em;font-weight:400}#toc_container p.toc_title{font-size:38px;line-height:1.2;text-align:left;margin:0;padding:0;font-weight:700}#toc_container p.toc_title+ul.toc_list{margin-top:23px}#toc_container ul,#toc_container li{margin:0;padding:0}#toc_container .toc_list li{font-size:22px;line-height:26px;font-weight:400}#toc_container .toc_list li:not(:last-child){margin-bottom:18px}#toc_container .toc_list a{display:flex;color:#000;font-size:inherit;position:relative;padding-bottom:15px;border-bottom:1px solid rgba(213,221,230,0.5);font-weight:400}#toc_container .toc_list .toc_number{font-size:inherit;color:#cad1d9;margin-right:10px}#toc_container .toc_list .toc_number:after{content:'.'}#sidebar .widget{position:sticky;position:-webkit-sticky;top:25px}.wp-caption{max-width:100%}.wp-caption-text{font-size:18px;line-height:19px;color:#999;margin:15px 0 25px}.single-post .text img{display:block}.single-post .text img{background-color:#f6f6f6}.text a{color:#F50}::-moz-focus-inner{border:0}.text{color:#000;font:400 16px/22px -apple-system,BlinkMacSystemFont,sans-serif}.clearfix:before{content:"";display:table}.clearfix:after{content:"";display:table;clear:both}.menu-trends-container .trand{background-position:14px center}.widget{margin-bottom:32px}.text ul{font-size:20px;line-height:1.5;font-weight:400;margin:0 0 30px 0}#comments{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;color:#0f0f0f;text-transform:uppercase;letter-spacing:0.08em}#comments{margin:0 15px 5px 0}.comment-section-header{display:flex;flex-wrap:wrap;align-items:center;margin-bottom:25px}.comment-section-header .comment-btn{width:100%;display:flex;align-items:center}.comment-section-header #comment-btn-collapse{height:auto;position:relative;color:#cad1d9;font-size:14px;font:400 14px/16px -apple-system,BlinkMacSystemFont,sans-serif;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none;padding:0}.comment-section-header #comment-btn-collapse:before{position:absolute;content:'';bottom:-1px;left:0;width:100%;height:6px;right:0;background-image:linear-gradient(to right,rgba(202,209,217,0.5) 58%,rgba(255,255,255,0) 0%);background-position:bottom;background-size:5px 1px;background-repeat:repeat-x}.comment-section-header #comments{display:flex;align-items:center;min-height:44px}.comment-section .scroll-to-new-comment{height:auto;padding:9px 20px;border:1px solid rgba(255,85,0,0.2);color:#f50;font:500 16px/24px -apple-system,BlinkMacSystemFont,sans-serif;text-decoration:none;border-radius:3px;text-align:center;background:none;text-transform:inherit;letter-spacing:inherit;text-shadow:none}button{display:inline-block;height:37px;font:700 14px/40px -apple-system,BlinkMacSystemFont,sans-serif;color:#fff;text-decoration:none;padding:0 40px 0 0;outline:none;text-shadow:0 1px 0 rgba(71,117,0,0.5);background:transparent url(/wp-content/themes/101media/img/button-square-green.png) no-repeat right top;border:none;margin:0;text-transform:uppercase;letter-spacing:0.08em;width:auto;overflow:visible}button::-moz-focus-inner{border:0;padding:0;margin:0}.banners-center{text-align:center}.news-img{position:relative;padding-bottom:60.8%;max-width:100%;display:block}.foreign-posts{clear:both;margin-top:60px;border-top:1px solid #e6e7e3;width:1000px;margin-bottom:50px}.foreign-posts .foreign_post_title{font:700 30px -apple-system,BlinkMacSystemFont,sans-serif;letter-spacing:2.4px;text-align:left;color:#000;margin-top:33px;text-transform:uppercase}.foreign-posts .foreign-posts-list{min-height:250px}@media (min-width:625px) and (max-width:649px){.item iframe:not(.iframe){height:328px}}@media (min-width:600px) and (max-width:624px){.item iframe:not(.iframe){height:314px}}@media (min-width:575px) and (max-width:599px){.item iframe:not(.iframe){height:300px}}@media (min-width:550px) and (max-width:574px){.item iframe:not(.iframe){height:286px}}@media (min-width:525px) and (max-width:549px){.item iframe:not(.iframe){height:272px}}@media (min-width:500px) and (max-width:524px){.item iframe:not(.iframe){height:258px}}@media (min-width:475px) and (max-width:499px){.item iframe:not(.iframe){height:244px}}@media (min-width:450px) and (max-width:474px){.item iframe:not(.iframe){height:230px}}@media (min-width:425px) and (max-width:449px){.item iframe:not(.iframe){height:216px}}@media (min-width:414px) and (max-width:424px){.item iframe:not(.iframe){height:206px}}@media (min-width:400px) and (max-width:413px){.item iframe:not(.iframe){height:206px}}@media (min-width:375px) and (max-width:399px){.item iframe:not(.iframe){height:198px}}@media (min-width:325px) and (max-width:349px){.item iframe:not(.iframe){height:170px}}@media (max-width:324px){.item iframe:not(.iframe){height:156px}}(function(w){"use strict";var loadCSS=function(href,before,media,attributes){var doc=w.document;var ss=doc.createElement("link");var ref;if(before){ref=before;}else{var refs=(doc.body||doc.getElementsByTagName("head")[0]).childNodes;ref=refs[refs.length-1];}var sheets=doc.styleSheets;if(attributes){for(var attributeName in attributes){if(attributes.hasOwnProperty(attributeName)){ss.setAttribute(attributeName,attributes[attributeName]);}}}ss.rel="stylesheet";ss.href=href;ss.media="only x";function ready(cb){if(doc.body){return cb();}setTimeout(function(){ready(cb);});}ready(function(){ref.parentNode.insertBefore(ss,(before?ref:ref.nextSibling));});var onloadcssdefined=function(cb){var resolvedHref=ss.href;var i=sheets.length;while(i--){if(sheets[i].href===resolvedHref){return cb();}}setTimeout(function(){onloadcssdefined(cb);});};function loadCB(){if(ss.addEventListener){ss.removeEventListener("load",loadCB);}ss.media=media||"all";}if(ss.addEventListener){ss.addEventListener("load",loadCB);}ss.onloadcssdefined=onloadcssdefined;onloadcssdefined(loadCB);return ss;};if(typeof exports!=="undefined"){exports.loadCSS=loadCSS;}else{w.loadCSS=loadCSS;}}(typeof global!=="undefined"?global:this));loadCSS("https://hi-news.ru/wp-content/themes/101media/style.css?1597665258",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/themes/101media/app.css?1611331550",document.getElementById("loadcss"));loadCSS("https://hi-news.ru/wp-content/plugins/tag-sticky-post/css/plugin.css?1541770289",document.getElementById("loadcss")); window.yaContextCb=window.yaContextCb||[]](https://hi-news.ru/wp-content/uploads/2024/06/love_bot-scaled.jpeg)
Доверяй но проверяй. Изображение: bustle.com
Отметим, что не все ученые так сильно обеспокоены. Например, Майкл Роватсос, профессор искусственного интеллекта в Эдинбургском университете, полагает, что реальная проблема заключается не в риске потери контроля над ИИ, а в том, что в настоящее время системы выпускаются на рынок без надлежащих проверок безопасности.
Так или иначе, на данный момент с уверенностью можно сказать только одно – не стоит полностью доверять чат-ботам, а информацию, которой они с нами так щедро делятся, необходимо проверять.
