Artificial Intelligence

Ethiek en privacy

• De AI Act en het onderwijs (podcast)

De AI Act is een nieuwe wet die de Europese Unie aan het maken is. AI staat voor Artificial Intelligence, oftewel kunstmatige intelligentie. Dit zijn computersystemen die kunnen leren en zelfstandig beslissingen kunnen nemen.

De belangrijkste punten van de AI Act zijn:

1. Veiligheid: AI-systemen moeten veilig zijn en mensen geen schade toebrengen.
2. Eerlijkheid: AI mag niet discrimineren of oneerlijk zijn tegen bepaalde groepen mensen.
3. Transparantie: Bedrijven moeten uitleggen hoe hun AI werkt en beslissingen neemt.
4. Menselijke controle: Er moet altijd een mens zijn die toezicht houdt op belangrijke beslissingen van AI.

Voor mensen die AI willen gebruiken in hun werk betekent dit:

1. Ze moeten goed nadenken over hoe ze AI inzetten en of het veilig en eerlijk is.
2. Ze moeten kunnen uitleggen hoe hun AI-systeem werkt.
3. Ze moeten zorgen dat er altijd menselijke controle is bij belangrijke beslissingen.
4. Ze moeten zich houden aan de regels van de AI Act, anders kunnen ze boetes krijgen.

Security

• AI Bedreigingen
• Cloning Fraude - Fake kidnapping
• Scams in 2024

Scams 2024

Hier is een overzicht van alle besproken onderwerpen en een korte uitleg over elk onderwerp:

• Recovery Scams: Oplichters maken misbruik van mensen die al zijn opgelicht door te doen alsof ze hun geld kunnen terugkrijgen. Dit gebeurt vaak in de commentaarsecties van video's over oplichting.
• Valse AI-gegenereerde producten: Oplichters gebruiken AI om realistische afbeeldingen van producten te maken die niet echt zijn. Deze producten worden vaak tegen lage prijzen aangeboden op sites zoals Facebook Marketplace en Etsy.
• Deepfake Celebrity Endorsements: Oplichters gebruiken AI om video's te maken waarin beroemdheden producten aanbevelen die nep zijn. Deze video's bevatten vaak voice-cloning om het te laten lijken alsof de beroemdheid echt praat.
• App Download Phone Scam: Oplichters bellen mensen en doen zich voor als wetshandhavers. Ze beweren dat er een rechtszaak tegen je loopt en sturen je naar een app om je zaak te bekijken. De app is malware die je bankgegevens steelt.
• iCloud Lock Removal Scam: Oplichters richten zich op mensen met een gestolen telefoon en proberen hen te overtuigen de iCloud-vergrendeling te verwijderen. Ze gebruiken intimidatie en bedreigingen om hun slachtoffers te manipuleren.
• Fysieke postzending: Oplichters sturen nep-rekeningen en overheidsdocumenten per post om mensen geld af te troggelen.
• SAT/ACT oplichting: Oplichters bellen ouders van middelbare scholieren en beweren dat hun kind testvoorbereidingsmateriaal heeft besteld. Ze gebruiken echte namen en informatie om het geloofwaardiger te maken.
• Jurydienst oplichting: Oplichters bellen mensen en doen alsof ze van de politie of de overheid zijn. Ze beweren dat er een arrestatiebevel tegen je is omdat je niet bent komen opdagen voor de jurydienst.
• Pump Switching: Oplichters op benzinestations bieden aan te helpen met het terugplaatsen van het benzinepistool, maar doen dit niet goed, waardoor de vorige klant voor hun benzine betaalt.
• Ozempic Verkoper Oplichting: Oplichters maken misbruik van de schaarste aan Ozempic, een medicijn voor gewichtsverlies, door nepwebsites op te zetten die het medicijn zonder recept aanbieden.

Algemene waarschuwing voor AI-afbeeldingen: De technologie achter AI-afbeeldingen verbetert snel. In de toekomst zal het steeds moeilijker worden om nep-AI-afbeeldingen van echte foto's te onderscheiden. Wees voorzichtig met wat je online ziet.

AI-Klonen: Ethiek en Toepassingen

Overzicht

Deze les is ontworpen om je begrip van AI-klonen te verdiepen, zoals besproken in de verstrekte video-transcriptie. We zullen de ethische implicaties en potentiële toepassingen van deze snel evoluerende technologie onderzoeken.

Belangrijke Termen

• AI-kloon: Een digitale replica van een persoon, getraind op hun publieke profiel en in staat om hun uiterlijk, stem en zelfs gedachten na te bootsen.CEO-fraudeEen vorm van oplichting waarbij criminelen zich voordoen als een CEO of andere hooggeplaatste functionaris om werknemers geld te laten overmaken.
• Deepfake: Een video of audio-opname die is gemanipuleerd met behulp van AI om iemand iets te laten zeggen of doen dat ze in werkelijkheid niet hebben gedaan.Bespoke chatbotEen chatbot die is ontworpen en getraind voor een specifiek doel of een specifiek publiek.
• Digitale tweeling: Een virtuele representatie van een fysiek object of systeem.

Auteursrecht

• Kun en mag je GenAI gebruiken voor teksten ? APA richtlijnen voor generatieve AI

AI Nightmare

• Concentratie van macht: De hoge kosten van het ontwikkelen van AI-modellen maken het voor academici en kleine bedrijven bijna onmogelijk om te concurreren met technologiegiganten. Dit creëert een oligopolie waarin een handvol bedrijven de markt domineren.
• Stifling van innovatie: De dominantie van grote bedrijven belemmert innovatie omdat kleinere spelers en alternatieve benaderingen worden verdrongen.
• Surveillancekapitalisme: Bedrijven zoals OpenAI lijken zich te richten op surveillancekapitalisme om winst te genereren. Dit roept zorgen op over privacy en de bescherming van auteursrechten.
  • Integratie van persoonlijke data: Marcus stelt dat OpenAI probeert toegang te krijgen tot "al je documenten, al je agenda's, al je e-mails". Dit suggereert dat het bedrijf persoonlijke data wil gebruiken om zijn AI-modellen te trainen en te personaliseren, wat kenmerkend is voor surveillancekapitalisme.
  • Aanschaf van een webcam-bedrijf: OpenAI's aankoop van een deel van een webcam-bedrijf wordt genoemd als een aanwijzing voor hun mogelijke verschuiving naar surveillance. Hoewel de bronnen niet specificeren welk bedrijf dit is, impliceert het dat OpenAI data van webcams wil verzamelen.
  • Voormalig NSA-lid in de raad van bestuur: De benoeming van een voormalig lid van de National Security Agency (NSA) in de raad van bestuur van OpenAI wordt gezien als een teken dat het bedrijf zich richt op surveillance. Dit suggereert een mogelijke samenwerking met overheidsinstanties om toegang te krijgen tot persoonlijke data.
• Behoefte aan regulering: Deelnemers aan de discussie pleiten voor overheidsregulering om de macht van technologiebedrijven in te perken en de ontwikkeling van AI te sturen. Ze benadrukken dat regulering innovatie niet noodzakelijkerwijs hindert, zoals de technologie-industrie vaak beweert.
• Financiële zeepbel: Er wordt gesuggereerd dat de huidige waardering van AI-bedrijven zoals OpenAI een financiële zeepbel zou kunnen zijn, omdat de beloofde winsten nog niet zijn gerealiseerd.
• Ethische en maatschappelijke implicaties: De discussie benadrukt de ethische en maatschappelijke implicaties van AI, zoals de risico's van deepfakes en de mogelijke negatieve gevolgen voor kunstenaars en schrijvers.

Oplossingen die worden voorgesteld zijn:

• Overheidsregulering: Er is behoefte aan wetgeving die de markt openbreekt, privacy beschermt en ervoor zorgt dat de voordelen van AI opwegen tegen de risico's.
• Overheidsinvesteringen: Meer overheidsfinanciering voor onderzoek naar alternatieven voor de huidige AI-modellen kan helpen om innovatie te stimuleren.
• Boycots: Consumenten kunnen technologiebedrijven boycotten die onethische praktijken hanteren, zoals het gebruik van auteursrechtelijk beschermd materiaal zonder toestemming.