Vad blir en demokrati där datorer programmerar människor?
Från att ha programmerat datorer låter sig människan nu allt mer programmeras av dem. Vad händer med demokratin när vi får svårare att överblicka hur och varför viss information når oss? Tomas Kåberger skriver om en teknikutveckling med stora konsekvenser.
Det var en gång en tid där datamaskiner programmerades av människor. Det var under förra årtusendet.
Utvecklingen under 2000-talet har gått snabbt. Världens kommunikationsnät har en enorm kapacitet och vi kan kommunicera med varandra trots avstånd, utan nämnvärd ansträngning nästan med ljusets hastighet.
Samtidigt har datorernas förmåga att behandla information vuxit och det kan nu programmeras att samla in och behandla information som programmeraren själv inte ens vet finns.
Genom att datorerna kan samla in miljarder konversationer mellan människor kan de också skapa budskap som liknar människors. Dessa maskiners snabba tillgång till information och förmåga att välja ut vad som är relevant, har skapat det som kallas konstgjord intelligens, ”AI”.
Maskiner som på detta sätt svarar på frågor skriver snabbt uppsatser, skapar bilder ger sken av att diskutera som människor.
Vi kan tro att dessa maskiner och program kan hjälpa oss att göra det vi vill, precis som andra människor kan göra det vi vill att de skall göra. Men hur mycket bestämmer vi vad de skall göra när vi inte längre förstår hur deras program fungerar, vad det faktiskt gör, och inte minst varför?
Under pandemi-åren tog datoriserad kommunikation över mycket av det som tidigare skett ansikte mot ansikte. Istället för att utsättas för information och nyheter som spreds till alla, utsatte vi oss alltmer för information som styrdes av program skapade för att påverka oss. Man kan tro att dessa program i första hand var gjorda för att ge oss information vi gillade, så att vi skulle acceptera att se mer annonser. Men är det bara det som styr vad som når oss via telefoner och datorer?
När väst-världens rika ägare till de företag som matar oss med mest information ställer sig på parad bakom Trump vid maktskiften i Vita huset fick vi en anledning att ifrågasätta att det bara handlar om pengar.
Det är lätt att styra informationsflöden om man äger dessa datoriserade informationssystem. Man kan gynna spridandet av information som är till fördel för en kandidat men inte information om en annan inför ett val. Man kan försvåra för vissa personers budskap att spridas och hjälpa andra personers budskap att nå fler inför ett val.
För att ta ett exempel: om två olika partier säger att man bör sänka skatten på tobak kan man låta datorerna se till att det ena partiets budskap når personer som tycker att tobak skall beskattas mer, och den andra kandidatens budskap visas för den del av befolkningen som håller med.
Men det kan vara värre. Det finns människor som har nästan hela sin kontakt med andra människor via datorer. Bland dessa kan programmerade datorer uppträda som medmänniskor och systematiskt påverka dem inte bara till politiska åsikter utan också till handling. Genom att programmerade datorer via nätet ger dessa ensamma sådan uppmärksamhet och vänskap som vi gärna vill ha från andra människor kan de förmås att lämna ifrån sig pengar men också göra dem till ensamma terrorister, och gemensamt sopa igen alla spår.
Vi har ett samhälle där datorer börjat kunna programmera människor. Vad betyder då ”demokrati”?
Tomas Kåberger är styrelseledamot i Fores och bland annat professor i Industriell Energipolicy vid Chalmers i Göteborg. På 1980-talet utvecklade han kursen ”Datorer och samhälle” som gavs för Dataingenjörs-programmet vid Chalmers.
Ett avslutande tillägg: det jag precis beskrivit förutsågs redan på 1900-talet. En fortfarande läsvärd, även om den idag framstår som lite naiv, bok är The Rise of the Computer State av David Burnham, utgiven 1980 av Random House, New York.