Ethics is logic to control words and deeds of AI(artificial intelligence), as a tool of mankind, how to rule AI do not injure mankind is a nesessity. If yes, what things we will be going to do? if not, how to avoid AI do harm to mankind? Use ethics or algorithmic rule?
In order for an AI to harm people it must at least (1) have learned about external 'reality' and be able to make judgements about it (2) be able to convert these judgements into action sequences and (3) be able to actually initiate such sequences. If the operators give it all these abilities without restriction then I guarantee that sooner or later AI will start doing harm. You have to build into the AI a supervisory system that restricts system (2) so that if a situation arises in which a dangerous response is possible, it does not get actioned. But how to do this is a different question altogether.I am not optimistic that future AIs will always have such a system or if they do, that it will always work as intended.
Yes, to protect mankind from injury by AI is a very important problem.
The expression ''Artificial Intelligence'' wrongly sudgest that machines may have intelligence but the concept of a machine rule out that it can be intelligent since a machine is by definition something that do a specific set of task automatically and so it exactly opposite in meaning to what ''intelligence is''. So machines will always be and will always do what we design them to be and to do. So we we don't not want machines to hurt us then we simply have to do not conceive such machines. But since the day they were humans, they were tools and thus tools of war and machines of war specifically design to hurt ourself. So our only hope is to love each other instead of hating each other.
Ethics must be needed in AI? Why not?
Yes agreed ethics should be established & enforced so that there is boundary drawn what AI can & can't do to avoid unnecessary harm to human mankind. This ethics for AI is analogous to ethics for research. It is also analogous to security & governance thought process that need to be considered out front before design / deploy an new IT system.
For further info on ethics in AI, you can also refer to the following links:
https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
https://www.youtube.com/watch?v=vgUWKXVvO9Q
Etică
Ca reprezentare convenţională „etică” este,
“ÉTICĂ s. f. 1. Studiul teoretic al principiilor și concepțiilor de bază din orice domeniu al gândirii și activității practice. 2. Ansamblu de norme în raport cu care un grup uman își reglează comportamentul pentru a deosebi ce este legitim și acceptabil în realizarea scopurilor; morală. – Din fr. éthique, lat. ethicus. Sursa: DEX '09 (2009) | Adăugată de gall | Semnalează o greșeală | Permalink “.
Nu înțeleg de ce etica nu este nemorală în contextul în care definițiile clasice nu specifică nici că este vorba de un domeniu moral şi nici că normele sunt morale. Respectiv „etica” este un „Ansamblu de norme” sau „Studiul teoretic al principiilor și concepțiilor de bază din orice domeniu” dar în final limitează etica cu spunând că este „morală”. Morală care este definită din nou fără limitare strictă adică disciplină „care se ocupă cu normele de comportare a oamenilor în societate”. Nemoralul ei este tratat limitat şi superficial limitându-se doar la „comportare a oamenilor unii față de alții și față de colectivitate și a căror încălcare nu este sancționată de lege”. Ca şi când cei care încalcă legea nu au principiile şi normele lor indiferent de natura acestor norme sau principii. Noi eliminăm aceste limitări spunând că dialectic „etică” este,
„filozofia sistemelor de referinţă”.
sau
„filozofia echilibrului/dialectic al dialecticii/etice”
Dialectica/etică este simultaneitate moral/nemoral în nici un caz separate decît în cazul neputinței entităților/univers de a reflecta simultaneitatae lor. Definiția nu limitează aceste sisteme de referinţă la entităţi/univers sistemice sau nesistemice științifice sau neștiințifice ceea ce nu limitează sub nici o formă definiția eticii. Avînd în vedere că filozofia este simultaneitatea cunoaştere/necunoaștere şi fiecare la rândul ei ştiinţă/neștiință simultan putem spune convențional că etica este,
„ştiinţă/neștiința sistemelor de referinţă”.
Acest lucru este demonstrabil dacă ne amintim că orice sistem de referinţă este un sistem de norme sau principii sau secvențe față de care putem sau nu să facem raportarea oricărei reprezentări a realităţii. Principiile etice prin definiția lor sunt norme ale unui sistem de referință de aceiași natură cu realitatea sau reprezentările ei. Cele zece porunci au fost doar norme teiste la începutul lor din lipsa capacității de aprofundare a conținutului lor dar acum nu le putem exclude şi pentru ceilalți oameni dincolo de credințele lor. Aceste norme pot fi morale sau nemorale dar ca absolut/realtiv sunt întotdeauna moral/nemorale simultan. Orice entitate/univers este un sistem de referinţă dar şi o simultaneitate de sisteme de referinţă ca întreg şi părţi ale reprezentării ei. În acest context deoarece orice sistem de referinţă este dependent de normele lui raportate la celelalte sisteme de referinţă şi etica are aceleași caracteristici este dependentă de sistemul de referinţă şi normele sale. Câte entităţi/univers sunt atâtea sisteme de referinţă şi la fel principii etice sau etici ca filozofie de sistem sau nesistem. Nu putem crede că haosul nu are etica lui la fel cum nu putem crede că Entitatea/univers este fără etică. Haosul are şi el normele lui etice chiar dacă noi sau alții nu suntem capabili să reflectăm această etică fără principii sau legături sau legi sau simple convenții ca efect al indiferenței şi întâmplării. Lumea trebuie să înţeleagă faptul că limitarea doar la moralitate a etici este insuficientă în condițiile când în jurul nostru lumea este plină de nemoralul ei şi de excepții de la moralitate. Dacă Entitatea/Univers ar fi doar morală nelimitatul ei ar fi doar o iluzie sau ar fi dispărut demult iar despre absolut/relativul ei nu am mai fi putut discuta. Ca orice etică are echilibrul ei ca unitate/dialectică, supraunitarul ei (moral) şi subunitarul ei (nemoral) ca sentimente şi nu ca realitate. Mi ���
It is a complicated issue.
What could stop someone from developing a paid killer robot?
How are you going to stop the militaries of US, Russia, China and so on from developing 'killer robots'? Apparently Russia already has these guarding its missile silos. We have already the (probably unintentional) acts of the Boeing 737 MAX flight control systems 'deliberately' killing everyone on the aircraft, twice. I am very strongly in favour of regulating all AI development and limiting severely what is put into commercial products until all these problems are solved. Since they never will be, that rather puts an end to this form of AI.
We all are pacifists and we strongly hope that AI can be used for peace in order to solve problem of developping ecnomy, but as well as other high-teches, these high-teches usually be used for military firstly. We only hope that AI killer is self-defensive, and not of attacker.
The ethics must be in programmer at least. An ethical programmer will insert some directives in the AI to avoid something unethical.
https://responsiblerobotics.org/ are a good place for thinking.
There is another issue here. In order to be sure that a program will always behave ethically, it should be possible to prove this mathematically. Except for the very simplest programs however, this is impossible. Merely demonstrating that the AI behaves 'sensibly' in its test scenarios is far from proving it will always do so. Since such proof is not feasible in my view this means AI cannot be trusted in real world situations - and therefore should not be used.
We can always programme AI to do or not do as we wish... At the moment. When AI is able to teach itself this may become more and more difficult as it will provide the most productive and time efficient way of completing a task it has either been programmed to do or has taken it upon itself to do, which is where it may endanger the safety of other workers, however it may be that a kill switch is added to prevent robot to human contact.
As far as ethics is concerned, there is always controversy and disagreement with major decisions and ethics will always be an issue due to audience viewpoints and moral standpoints. But with AI, these decisions will become more radical and will be executed at a much faster rate than they currently are, meaning the "right" decision is critical or it may have considerable ramifications.
I don't agree that you can always programme AI to do or not do as you wish. As I said earlier, merely demonstrating that it does so under limited conditions is not a proof. Such proofs are impossible with programmes as complicated as AIs. Also, how do you know what an AI has learned during some training exercise? By asking it? How do you know its answers will be truthful? Or even meaningful?
The AI with self-programming and self-recorrecting, i.e. AI has ability to self-evolving, hence its action will injure mankinds isn't impossible.
- Badges
- Science topic
- Similar topics
- Philosophy
- Ethics