Etik ve Enformatik


Gürder F.

AKETDER 2. Etik Araştırmaları Uluslararası Kongresi, İstanbul, Türkiye, 26 - 27 Ocak 2023, ss.101-102

  • Yayın Türü: Bildiri / Özet Bildiri
  • Basıldığı Şehir: İstanbul
  • Basıldığı Ülke: Türkiye
  • Sayfa Sayıları: ss.101-102
  • Marmara Üniversitesi Adresli: Evet

Özet

Yapay zekâ, karar destek sistemleri, robotik, insan-makine arayüzleri, sanal dünyalar & interaktif eğlence araçları, Endüstri 4.0, dijitalleşme enformatikçilerin sorumluluğunda dahlinde yaratılmış ürünlerdir. Türkiye’de üniversitelere ve yüksekokullara enformatik bilimleri (Bilgi, Bilişim ve Bilgisayar içerikli) alanında son üç yılda toplam 56.367 yeni öğrenci kaydolmuştur. Bu sayı her yıl giderek artmaktadır. Yani bu teknolojileri üreten ve geliştiren enformatikçi sayısı dünyada olduğu gibi ülkemizde de artmaktadır.

Enformatikçilerin geliştirdikleri bu teknolojiler birçok insanın yaşam tarzında değişikliğe sebep olmuştur, üretim yöntemleri değişmiştir. Bununla birlikte bu sistemlerin geliştirilmesinde ve kullanımında etik sorunlar ortaya çıkmış ve enformatikçilerin etik sorumluluğu sorgulanmaya başlanmıştır. Her enformatikçi kendi ürününden sorumludur ve bu sorumluluğa bağlı olarak enformatik eğitimi alan öğrencilerin “etik” konusunda eğitimi kaçınılmaz olmuştur.

Aslında sorumluluk meselesi, herhangi bir şeyi üreten, satan ya da hizmet sunan herkesi ilgilendirmektedir. Sorumluluk derecesi faaliyetin türüne bağlı olarak değişir. Ancak doktor, öğretmen, gazeteci, siyasetçi, bilim adamı, laboratuvar teknisyeni, marangoz, postacı veya otobüs şoförü fark etmeksizin her meslek grubu çalışanının işinde uzman, müşterilerin veya kullanıcıların beklentilerini karşılayan, esnek ve ileri görüşlü olmasını bekleriz.

Uzmanlık, yani enformatikçinin profesyonelliği önemli bir etik unsurdur. Tasarım ve/veya uygulamadaki hatalar çoğu zaman bir sistemin kötü amaçlı yazılım saldırılarına karşı yeterince korunmamasına ya da hata yapmasına neden olur. Her ikisi de potansiyel olarak ölümcül sonuçlar doğurabilir. Dolayısıyla enformatik eğitimine etik standartlar getirmek, her şeyden önce iyi yazılım konusunda farkındalık yaratmak ve öğrencilerin bu yazılımı üretmelerini sağlamak anlamına gelmektedir. İyi yazılım kriterleri öğrencilere yoğun ve tekrarlı bir şekilde öğretilmelidir. Yazılım geliştirirken, sadece işlevsellik ve güvenlik için asgari gereklilikler değil, aynı zamanda akla gelebilecek tüm kötüye kullanımların dikkate alınması önemlidir. Güvenlik için asgari gereklilikler sağlanmalı, kötüye kullanım önlenmelidir.

İyi bir yazılım için önemli koşullardan birisi de şeffaflıktır. Bir programın sonucu bilgisayar yardımı olmadan belirlenemese bile, işleyişi anlaşılabilir olmalıdır! Ancak günümüzde geliştirilen programlar giderek daha güçlü ve kullanılan algoritmalar giderek daha karmaşık hale geliyor. Örneğin modern işletim sistemleri on milyonlarca satır kaynak koduna dayanmaktadır, rassal unsur içerirler, çözüm çok boyutludur. Yapay sinir ağları veya genetik algoritmalar gibi. Rassal unsurlar ve çözümün çok boyutluluğu, karmaşık algoritmaların nasıl çalıştığını anlamayı önemli ölçüde zorlaştırmaktadır. Tüm bu programlar sistemin tepkisine doğrusal olmayan bağımlılıklar üretir. Ne yazık ki insanoğlunun "doğrusal düşünce yapısı" çoğu zaman algoritmanın nasıl çalıştığını anlamasını zorlaştırmaktadır. Bu nedenle, çalışmalar sırasında doğrusal olmayan davranışlar, çok boyutlu problemler ve süreçlerin karmaşıklığı hakkında daha fazla anlayış geliştirmek önemlidir. Bu da ancak diğer konuların yanı sıra fizik ve matematik derslerinde yoğunlaşmayı gerekli kılar.

Özellikle yapay zekâ yöntemlerinin hayatın her alanına giderek daha fazla nüfuz ettiği şu günlerde enformasyon teknolojilerinin kontrolden çıkmaması için genel olarak bilinen ve tanınan standartlar/normlar ve yasalar gereklidir. Enformatik öğrencilerinin eğitimlerinde bu standartlara, kurallara ve yasalara yeterince yer verilmelidir.

Günlük hayatta enerji, ulaşım, gıda, sağlık, iletişim vb. alanlarda kullanılan araçlara güvenmek istiyorsak, özellikle enformatik sektöründe çalışan insanlardan yüksek düzeyde uzmanlık, sorumluluk ve öngörü talep etmeli ve bunu da etik değerlerin sürekli öğretilmesi yoluyla desteklemeliyiz.

Artificial intelligence, decision support systems, robotics, human-machine interfaces, virtual worlds & interactive entertainment tools, Industry 4.0, digitalization are products created under the responsibility of informaticians. In the last three years, a total of 56,367 new students have enrolled in universities and colleges in Turkey in the field of informatics sciences (Information, Informatics and Computing). This number is increasing every year. In other words, the number of informaticians who produce and develop these technologies is increasing in our country as in the world.

These technologies developed by informaticians have changed the way of life of many people, production methods have changed. However, ethical problems have emerged in the development and use of these systems and the ethical responsibility of informaticians has begun to be questioned. Every informatician is responsible for his/her own product, and due to this responsibility, it has become inevitable for students studying informatics to be educated on "ethics".

In fact, the issue of responsibility concerns everyone who produces, sells or provides services. The degree of responsibility varies depending on the type of activity. However, we expect every professional, whether a doctor, teacher, journalist, politician, scientist, laboratory technician, carpenter, postman or bus driver, to be an expert in their work, to meet the expectations of customers or users, to be flexible and forward-thinking.

Expertise, the professionalism of the informatician, is an important ethical element. Errors in design and/or implementation often cause a system to fail or not be adequately protected against malware attacks. Both can have potentially fatal consequences. Therefore, introducing ethical standards into informatics education means first and foremost raising awareness of good software and enabling students to produce it. The criteria for good software should be taught to students in an intensive and repetitive way. When developing software, it is important to consider not only the minimum requirements for functionality and security, but also all conceivable abuses. The minimum requirements for security must be met and abuse must be prevented.

An important condition for good software is transparency. Even if the result of a program cannot be determined without the help of a computer, its operation must be understandable! However, today's programs are becoming more and more powerful and the algorithms used more and more complex. For example, modern operating systems are based on tens of millions of lines of source code, they contain stochastic elements, the solution is multidimensional. Like artificial neural networks or genetic algorithms. The stochastic elements and the multidimensionality of the solution make it significantly harder to understand how complex algorithms work. All these programs produce non-linear dependencies on the system's response. Unfortunately, human "linear thinking" often makes it difficult to understand how the algorithm works. Therefore, during studies it is important to develop a greater understanding of nonlinear behavior, multidimensional problems and the complexity of processes. This requires concentration in physics and mathematics, among other subjects.

Especially nowadays, when artificial intelligence methods are penetrating more and more into all areas of life, generally known and recognized standards/norms and laws are necessary to ensure that information technologies do not get out of control. These standards, rules and laws should be adequately covered in the education of informatics students.

If we want to trust the tools used in everyday life in areas such as energy, transportation, food, health, communication, etc., we need to demand a high level of expertise, responsibility and foresight, especially from people working in the informatics sector, and we need to support this through the continuous teaching of ethical values.