Os robôs teriam direitos próprios? Seriam dotados de personalidade jurídica? Quem é o responsável por garantir a segurança de um robô com inteligência artificial? Se uma máquina causa danos a seus usuários, quem responde civilmente? Como imputar responsabilidade caso uma inteligência artificial venha a se comportar de forma equivocada e insegura?
A empresa que fabricou o robô responde? Ou a empresa responsável por sua programação e aprendizado (machine learning) é quem responde? Ainda, e se o robô for utilizado por uma terceira pessoa?
Um caso que gerou muita repercussão sobre o tema, foi o acidente ocorrido nos Estado Unidos com um carro guiado por programação, que estava sendo testado pela Uber, acabou atingindo uma mulher e causando sua morte.
Outra situação aconteceu no Japão, um robô inteligente usado em uma fábrica de carros, matou um trabalhador que tentou fazer reparos na máquina, pois não tinha consciência que existia um humano ali.
Alguns aplicativos de bate papo que utilizam inteligência artificial, como por exemplo o SimSimi e a Tay, tiveram que ser removidos da internet, pois os usuários alimentaram o aprendizado do robô com informações preconceituosas, racistas, violentas e criminosas. De inocentes robôs com frases amistosas e descontraídas, em menos de 24 horas passaram a ser robôs disparando xingamentos.