AKETDER 2. Etik Araştırmaları Uluslararası Kongresi, İstanbul, Türkiye, 26 - 27 Ocak 2023, ss.101-102
Yapay zekâ, karar destek
sistemleri, robotik, insan-makine arayüzleri, sanal dünyalar & interaktif
eğlence araçları, Endüstri 4.0, dijitalleşme enformatikçilerin sorumluluğunda
dahlinde yaratılmış ürünlerdir. Türkiye’de üniversitelere ve yüksekokullara enformatik
bilimleri (Bilgi, Bilişim ve Bilgisayar içerikli) alanında son üç yılda toplam
56.367 yeni öğrenci kaydolmuştur. Bu sayı her yıl giderek artmaktadır. Yani bu
teknolojileri üreten ve geliştiren enformatikçi sayısı dünyada olduğu gibi
ülkemizde de artmaktadır.
Enformatikçilerin
geliştirdikleri bu teknolojiler birçok insanın yaşam tarzında değişikliğe sebep
olmuştur, üretim yöntemleri değişmiştir. Bununla birlikte bu sistemlerin
geliştirilmesinde ve kullanımında etik sorunlar ortaya çıkmış ve enformatikçilerin
etik sorumluluğu sorgulanmaya başlanmıştır. Her enformatikçi kendi ürününden
sorumludur ve bu sorumluluğa bağlı olarak enformatik eğitimi alan öğrencilerin
“etik” konusunda eğitimi kaçınılmaz olmuştur.
Aslında sorumluluk meselesi,
herhangi bir şeyi üreten, satan ya da hizmet sunan herkesi ilgilendirmektedir.
Sorumluluk derecesi faaliyetin türüne bağlı olarak değişir. Ancak doktor,
öğretmen, gazeteci, siyasetçi, bilim adamı, laboratuvar teknisyeni, marangoz,
postacı veya otobüs şoförü fark etmeksizin her meslek grubu çalışanının işinde
uzman, müşterilerin veya kullanıcıların beklentilerini karşılayan, esnek ve
ileri görüşlü olmasını bekleriz.
Uzmanlık, yani
enformatikçinin profesyonelliği önemli bir etik unsurdur. Tasarım ve/veya
uygulamadaki hatalar çoğu zaman bir sistemin kötü amaçlı yazılım saldırılarına
karşı yeterince korunmamasına ya da hata yapmasına neden olur. Her ikisi de
potansiyel olarak ölümcül sonuçlar doğurabilir. Dolayısıyla enformatik
eğitimine etik standartlar getirmek, her şeyden önce iyi yazılım konusunda
farkındalık yaratmak ve öğrencilerin bu yazılımı üretmelerini sağlamak anlamına
gelmektedir. İyi yazılım kriterleri öğrencilere yoğun ve tekrarlı bir şekilde
öğretilmelidir. Yazılım geliştirirken, sadece işlevsellik ve güvenlik için
asgari gereklilikler değil, aynı zamanda akla gelebilecek tüm kötüye
kullanımların dikkate alınması önemlidir. Güvenlik için asgari gereklilikler
sağlanmalı, kötüye kullanım önlenmelidir.
İyi bir yazılım için önemli
koşullardan birisi de şeffaflıktır. Bir programın sonucu bilgisayar
yardımı olmadan belirlenemese bile, işleyişi anlaşılabilir olmalıdır! Ancak
günümüzde geliştirilen programlar giderek daha güçlü ve kullanılan algoritmalar
giderek daha karmaşık hale geliyor. Örneğin modern işletim sistemleri on
milyonlarca satır kaynak koduna dayanmaktadır, rassal unsur içerirler, çözüm
çok boyutludur. Yapay sinir ağları veya genetik algoritmalar gibi. Rassal
unsurlar ve çözümün çok boyutluluğu, karmaşık algoritmaların nasıl çalıştığını
anlamayı önemli ölçüde zorlaştırmaktadır. Tüm bu programlar sistemin tepkisine
doğrusal olmayan bağımlılıklar üretir. Ne yazık ki insanoğlunun "doğrusal
düşünce yapısı" çoğu zaman algoritmanın nasıl çalıştığını anlamasını
zorlaştırmaktadır. Bu nedenle, çalışmalar sırasında doğrusal olmayan
davranışlar, çok boyutlu problemler ve süreçlerin karmaşıklığı hakkında daha
fazla anlayış geliştirmek önemlidir. Bu da ancak diğer konuların yanı sıra
fizik ve matematik derslerinde yoğunlaşmayı gerekli kılar.
Özellikle yapay zekâ
yöntemlerinin hayatın her alanına giderek daha fazla nüfuz ettiği şu günlerde
enformasyon teknolojilerinin kontrolden çıkmaması için genel olarak bilinen ve
tanınan standartlar/normlar ve yasalar gereklidir. Enformatik
öğrencilerinin eğitimlerinde bu standartlara, kurallara ve yasalara yeterince
yer verilmelidir.
Günlük hayatta enerji, ulaşım,
gıda, sağlık, iletişim vb. alanlarda kullanılan araçlara güvenmek istiyorsak,
özellikle enformatik sektöründe çalışan insanlardan yüksek düzeyde uzmanlık,
sorumluluk ve öngörü talep etmeli ve bunu da etik değerlerin sürekli
öğretilmesi yoluyla desteklemeliyiz.
Artificial intelligence, decision support systems, robotics, human-machine interfaces, virtual worlds & interactive entertainment tools, Industry 4.0, digitalization are products created under the responsibility of informaticians. In the last three years, a total of 56,367 new students have enrolled in universities and colleges in Turkey in the field of informatics sciences (Information, Informatics and Computing). This number is increasing every year. In other words, the number of informaticians who produce and develop these technologies is increasing in our country as in the world.
These technologies developed by informaticians have changed the way of life of many people, production methods have changed. However, ethical problems have emerged in the development and use of these systems and the ethical responsibility of informaticians has begun to be questioned. Every informatician is responsible for his/her own product, and due to this responsibility, it has become inevitable for students studying informatics to be educated on "ethics".
In fact, the issue of responsibility concerns everyone who produces, sells or provides services. The degree of responsibility varies depending on the type of activity. However, we expect every professional, whether a doctor, teacher, journalist, politician, scientist, laboratory technician, carpenter, postman or bus driver, to be an expert in their work, to meet the expectations of customers or users, to be flexible and forward-thinking.
Expertise, the professionalism of the informatician, is an important ethical element. Errors in design and/or implementation often cause a system to fail or not be adequately protected against malware attacks. Both can have potentially fatal consequences. Therefore, introducing ethical standards into informatics education means first and foremost raising awareness of good software and enabling students to produce it. The criteria for good software should be taught to students in an intensive and repetitive way. When developing software, it is important to consider not only the minimum requirements for functionality and security, but also all conceivable abuses. The minimum requirements for security must be met and abuse must be prevented.
An important condition for good software is transparency. Even if the result of a program cannot be determined without the help of a computer, its operation must be understandable! However, today's programs are becoming more and more powerful and the algorithms used more and more complex. For example, modern operating systems are based on tens of millions of lines of source code, they contain stochastic elements, the solution is multidimensional. Like artificial neural networks or genetic algorithms. The stochastic elements and the multidimensionality of the solution make it significantly harder to understand how complex algorithms work. All these programs produce non-linear dependencies on the system's response. Unfortunately, human "linear thinking" often makes it difficult to understand how the algorithm works. Therefore, during studies it is important to develop a greater understanding of nonlinear behavior, multidimensional problems and the complexity of processes. This requires concentration in physics and mathematics, among other subjects.
Especially nowadays, when artificial intelligence methods are penetrating more and more into all areas of life, generally known and recognized standards/norms and laws are necessary to ensure that information technologies do not get out of control. These standards, rules and laws should be adequately covered in the education of informatics students.
If we want to trust the tools used in everyday life in areas such as energy, transportation, food, health, communication, etc., we need to demand a high level of expertise, responsibility and foresight, especially from people working in the informatics sector, and we need to support this through the continuous teaching of ethical values.