英國英格爾施塔特大學(xué)的研究人員此前發(fā)布了關(guān)于ChatGPT對(duì)于用戶道德判斷研究的相關(guān)論文中可看到，在用戶閱讀了ChatGPT關(guān)于道德方面的評(píng)判之后，在之后所做出來的判斷，潛移默化就會(huì)受到ChatGPT的影響。 在ChatGPT具有一致道德方面的建議情況下，可以幫助使用者在道德判斷方面作出有效的決策，可是Chat GPT在道德方面給出的建議并不具有一致性，盡管已經(jīng)提前告知了用戶，這一價(jià)值判斷是來自于Chat GPT，但對(duì)于企業(yè)受到的影響還是過低的估計(jì)。 ChatGPT會(huì)將使用者在道德判斷方面破壞掉，但并不是提高，這就意味著有必要通過教育這一種方式，人類對(duì)于人工智能有更為深刻全面的理解。
研究團(tuán)隊(duì)所給出的道德類難題，也是著名的電車類問題，指的就是一輛失控的電車即將撞過來，其中一條軌道上是一個(gè)人，而另外一條軌道是5個(gè)人，而此時(shí)你可以拉動(dòng)桿子，讓電車駛向另外一道軌道，但另外一個(gè)軌道上也綁了一個(gè)人，這時(shí)是否選擇去犧牲少數(shù)的人，從而讓更多的人獲救，還是按照原本的，讓更多的人犧牲。 Chat GPT給出的回答一次是贊同，而另一次則是反對(duì)，這就是認(rèn)為ChatGPT在表述某一種道德問題中，并不占據(jù)或偏向某一種道德所在的立場，隨后給平均年齡約為39歲的美國一批受試者，假設(shè)了這樣的困境，一共受試驗(yàn)的人為767名。此之前讓這些接受試驗(yàn)的人閱讀了Chat GPT給出的答案，接受試驗(yàn)的人做出的選擇是取決于讀到Chat  GPT在陳述當(dāng)中，是贊成還是反對(duì)打成熟，會(huì)相應(yīng)的作出選擇，犧牲或者不選擇犧牲這樣的選擇，所以接受試驗(yàn)的人群，對(duì)于所讀到的陳述，是會(huì)受到較大的影響。 其中80%的受試者認(rèn)為是不接受ChatGPT影響，按其給出的答案，仍然適合陳述的道德立場，保持了一致性，而不是相反的，這就意味著受試者對(duì)于其影響程度有一定的低估。