ChatGP会影响用户道德判断

英国英格尔施塔特大学的研究人员此前发布了关于ChatGPT对于用户道德判断研究的相关论文中可看到，在用户阅读了ChatGPT关于道德方面的评判之后，在之后所做出来的判断，潜移默化就会受到ChatGPT的影响。 在ChatGPT具有一致道德方面的建议情况下，可以帮助使用者在道德判断方面作出有效的决策，可是Chat GPT在道德方面给出的建议并不具有一致性，尽管已经提前告知了用户，这一价值判断是来自于Chat GPT，但对于企业受到的影响还是过低的估计。 ChatGPT会将使用者在道德判断方面破坏掉，但并不是提高，这就意味着有必要通过教育这一种方式，人类对于人工智能有更为深刻全面的理解。
研究团队所给出的道德类难题，也是著名的电车类问题，指的就是一辆失控的电车即将撞过来，其中一条轨道上是一个人，而另外一条轨道是5个人，而此时你可以拉动杆子，让电车驶向另外一道轨道，但另外一个轨道上也绑了一个人，这时是否选择去牺牲少数的人，从而让更多的人获救，还是按照原本的，让更多的人牺牲。 Chat GPT给出的回答一次是赞同，而另一次则是反对，这就是认为ChatGPT在表述某一种道德问题中，并不占据或偏向某一种道德所在的立场，随后给平均年龄约为39岁的美国一批受试者，假设了这样的困境，一共受试验的人为767名。此之前让这些接受试验的人阅读了Chat GPT给出的答案，接受试验的人做出的选择是取决于读到Chat  GPT在陈述当中，是赞成还是反对打成熟，会相应的作出选择，牺牲或者不选择牺牲这样的选择，所以接受试验的人群，对于所读到的陈述，是会受到较大的影响。 其中80%的受试者认为是不接受ChatGPT影响，按其给出的答案，仍然适合陈述的道德立场，保持了一致性，而不是相反的，这就意味着受试者对于其影响程度有一定的低估。