Artificial intelligence and ethics - BMEGT41V105

The main objective of the subject is to map the ethical problems related to artificial intelligence and automatization and to show the possible solutions to these problems. The students get a glimpse into the contemporary situation of AI in terms of technological preparedness and market penetration. The most important ethical frameworks are discussed. While the course addresses both topics in detail, it do not have pre-requisites as it was designed to be accessible for all students of a technical university. At the second part of the semester, the two main topics get synthethized with a particular view to the recent findings and proposals of the related international engineering organizations (IEEE, ACM, VDI, university centres). The problems are framed by using case studies (e.g., ethical concerns of autonomous cars, recommendation systems, ethical problems of browsers with AI, unemployment and AI, AI and issues of world security, rights of AI agents). The examples might change to represent the actual trending topics of the field

1. the conventional terminology of AI.
2. the conventional terminology of ethics.
3. the ethical concerns related to AI.
4. various approaches of ethics related to the cases covered in the subject.
5. how the discipline being studied fits into a larger disciplinary and social scheme, how it relates to the neighbouring fields, how these fittings give rise to using certain contexts.
6. the fundamentals of various mechanisms of social decision-making.

1. to use professional terms, basic concepts and advanced elements of the special terminology of the profession.
2. to see and treat science in its embeddedness, to use an interdisciplinary approach.
3. to analyze, evaluate, draw conclusions and synthesize explanations in their professional work.
4. to provide a critical analysis of information by using a wide array of well-founded techniques.
5. to participate in lifelong learning.
6. to use a multi-sided, interdisciplinary approach to identify specific problems, to explore and define the detailed theoretical and practical background that is needed to solve these problems.
7. to discover facts and basic relationships by applying the theories and methods learned. To systematize, to analyze, to draw conclusions, to give critical remarks,
8. to prepare proposals of decision-making and to make decisions both in a routine and in a non-routine - domestic and international - environment.

1. Accepts and consistently and plausibly represents the diversity of the perspectives of social sciences in the related narrower and wider environment.
2. Demonstrates and open mind to critical self-evaluation, to various forms of training, to the self-help forms of intellectual worldview.
3. Endeavours for self-development in these areas.
4. Has problem-centric perspective and problem-solving thinking.

1. - On the basis of professional guidance, thinks through broad and specific professional issues and
2. based on specific sources.
3. - Independently performs his/her work with critical evaluation and continuous correction of his/her work.
4. - Participates responsibly in the development and justification of professional views.
5. - Assumes responsibility for the views that underpin his/her area of expertise.

Lectures, optional individual or group exercises.

• Stuart, Russel, and P. Norvig. „Mesterséges Intelligencia modern megközelítésben.
• Boros Gábor (szerk). „Filozófia.
• Diák és jegyzetek a www.filozofia.bme.hu oldalon. Slides and notes on the official site of the subject.
• Gerdes, J. C., & Thornton, S. M. Implementable ethics for autonomous vehicles. In Autonomes fahren (pp. 87- 102). Springer Vieweg, Berlin, Heidelberg, (2015).
• MIT OpenCourseWare: Engineering Ethics
• https://ocw.mit.edu/courses/engineering-systems-division/esd-932-engineering-ethics-spring-2006/
• Molnár László, Environmental Ethics and Engineering Ethics Courses at the BUTE: What Kind of Ethics Do We Teach? In: Banse, Gerhard, Imre Hronszky, and Gordon L. Nelson, eds. Rationality in an uncertain world. Vol. 5. edition sigma, (2005).
• Letölthető anyagok/Downloadable contents:
• IEEE Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems
• https://ethicsinaction.ieee.org/
• European Commission: Ethics guidelines for trustworthy AI:
• https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=58477
• Magyar Mérnöki Kamara Országos Etikai-fegyelmi Szabályzat
• https://mmk.hu/tudastar/dokumentumtar/szabalyzatok/etikai-fegyelmi-szabalyzat.pdf
• Verein Deutscher Ingenieure Ethische Grundsätze des Ingenieurberufs
• https://www.vdi.de/bildung/ethische-grundsaetze/ethische-grundsaetze/
• IEEE Code of Ethics
• https://www.ieee.org/about/corporate/governance/p7-8.html

A 2.2. pontban megfogalmazott tanulási eredmények értékelése: kettő évközi írásbeli teljesítménymérés és az aktív órai részvétel alapján (opcionális) történik.

A. Összegző tanulmányi teljesítményértékelés: a tantárgy és tudás, képesség típusú kompetenciaelemeinek komplex, írásos értékelési módja zárthelyi dolgozat formájában. A dolgozat tudáselemekre, értelmezési feladatokra, következtetési feladatokra koncentrál írásos kérdésválaszolás formájában. munkaidő anyagrésztől függően 30-60 perc. Minden összegző tanulmányi teljesítményértékelésen legalább a szerezhető pontok 50%- át el kell érni a tárgy teljesítéséhez. B. Részteljesítmény-értékelés (órai aktív részvétel, opcionális): a tantárgy tudás, képesség, attitűd, valamint önállóság és felelősség típusú kompetenciaelemeinek egyszerűsített értékelési módja, melynek megjelenési formája a felkészült megjelenés és tevékeny részvétel a gyakorlat folyamatában, felkérésre vezetett példamegoldás a hallgatók előtt; az egységes értékelési elveket a tantárgyfelelős és a tantárgy előadója együttesen határozza meg.

• 1. összegző tanulmányi teljesítményértékelés : 50
• 2. összegző tanulmányi teljesítményértékelés : 50
• opcionális: 50
• összesen: 100

Javítás esetén a korábbi és az új eredmény közül a pótláskor vagy javításkor elért eredmény kerül beszámításba

Consulted with the Faculty Student Representative Committee, approved by the Vice Dean for Education, valid from: 06.11.2023.

1) Az MI Etika problématérképe 2) Az MI és a Munka jövője 3) Az MI és a Technológiába zártság 4) Gépi Etika: transzparencia 5) Gépi Etika: megmagyarázhatóság (XAI) 6) Gépi Etika: méltányosság és részrehajlás algoritmusokban (bias; de-bias) 7) Gépi Etika: értékreprezentációk algoritmusokban (value alignment) 8) A mesterséges személy morális és társadalmi státusza: attribútum alapú megközelítések 9) A mesterséges személy morális és társadalmi státusza: reláció alapú megközelítések 10) Az EU AI törvény filozófiai háttere 11) Az IEEE P7001 szabványtervezet 12) Az IEEE 7000-2021 szabványtervezet