Kategoria: Aktualności

Splitblog w marcu – Widzę coś, czego Ty nie widzisz, a to jest AI

Boom na AI trwa, a mimo to dla wielu osób AI wciąż wydaje się zupełnie nową technologią, która nagle wyrasta jak grzyby po deszczu. To dla nas powód, aby przyjrzeć się temu, gdzie AI (i to już od bardzo dawna) towarzyszy nam na co dzień, niepostrzeżenie.

Aparat w smartfonie

Podczas gdy dawniej do profesjonalnych ujęć potrzebny był wysokiej klasy sprzęt i duża wiedza specjalistyczna, dziś idealne zdjęcie często udaje się zrobić jednym kliknięciem. Wiele smartfonów jest nie tylko wyposażonych w wysokiej jakości aparaty, ale od ponad dekady często także w zaawansowaną technologię AI. Rozpoznaje ona sceny, dostosowuje ostrość i optymalizuje ekspozycję, dzięki czemu nasze amatorskie migawki zamieniają się w żywe obrazy.

E-commerce

Być może nieco bardziej oczywiste, ale nadal rzadko świadomie zauważane: rekomendacje zakupowe. Wielu dostawców zakupów online wykorzystuje AI do analizowania naszych preferencji, zachowań zakupowych i wyborów. Na tej podstawie generowane są kolejne rekomendacje produktów, aby skłonić nas do dalszych zakupów – i to już od ponad 20 lat.

Rolnictwo

Również w rolnictwie AI już dawno się zadomowiła. Warunki glebowe i wzrost roślin są precyzyjnie analizowane, a dzięki temu optymalizuje się plony i uprawę. Także w hodowli zwierząt, na przykład przy obliczaniu idealnej ilości i składu paszy,

Gry wideo

Już od końca lat 90. AI jest nieodłącznym elementem gier wideo. W szczególności zachowanie tzw. NPC (Non Player Characters) jest często sterowane przez AI.

Prognozy sportowe

Niekoniecznie istotne na co dzień, ale interesujące dla fanów sportu: analizy meczów i prognozy są często tworzone z użyciem narzędzi AI. Jednym z bardziej znanych przykładów jest xGoals. XGoals potrafi na przykład obliczyć prawdopodobieństwo zdobycia bramki na podstawie pozycji zawodników. W profesjonalnym meczu piłkarskim można zebrać do 3,6 miliona punktów danych i wykorzystać je do analizy gry. AI ma więc znaczący wpływ na taktykę meczową i treningi, ale jest też wykorzystywana do rekrutacji nowych zawodniczek i zawodników.

Systemy nawigacji

Systemy nawigacji już dawno nie służą wyłącznie do wyznaczania trasy. Również tutaj wykorzystuje się AI, aby uwzględniać zużycie paliwa i aktualne dane o ruchu drogowym. Dzięki temu nowoczesne systemy nawigacji potrafią niezawodnie i w czasie rzeczywistym zaproponować najlepszą trasę lub wyznaczyć alternatywy.

AI jest dziś wszechobecna i na dobre zagościła w naszej codzienności. Warto przyjrzeć się temu w swoim najbliższym otoczeniu. A gdy domowy robot odkurzający następnym razem znów utknie w frędzlach dywanu, można z przymrużeniem oka zadać sobie pytanie, czy przejęcie władzy nad światem przez AI naprawdę jest tak blisko, jak niektórzy przypuszczają.

Splitblog w lutym: wszystko, co firmy muszą teraz wiedzieć o unijnym akcie o sztucznej inteligencji (EU AI Act)

Od sierpnia 2024 roku obowiązuje ustawa o sztucznej inteligencji (EU-AI-Act). Obecnie przyjęto aktualny projekt ustawy wykonawczej do niej. Federalna Agencja Sieci (Bundesnetzagentur) ma być centralnym punktem kontaktowym do monitorowania unijnych wytycznych dotyczących sztucznej inteligencji.

EU-AI-Act to pierwsze kompleksowe uregulowanie prawne dotyczące sztucznej inteligencji na świecie. Ma ono na celu promowanie zaufanej sztucznej inteligencji w Europie, minimalizowanie ryzyka, a jednocześnie umożliwianie innowacji. Dla firm kluczowe jest zrozumienie i wdrożenie nowych przepisów, aby uniknąć ryzyka prawnego i zapewnić sobie przewagę konkurencyjną.

Czym jest EU-AI-Act?

EU-AI-Act to ramy prawne, które klasyfikują systemy AI według ich potencjalnego ryzyka i definiują odpowiednie wymogi regulacyjne. Celem jest zapewnienie bezpieczeństwa, przejrzystości i przestrzegania podstawowych praw podczas korzystania z AI.

Podejście oparte na ryzyku i kategoryzacja systemów AI

EU-AI-Act dzieli systemy AI na cztery kategorie:

Niedopuszczalne ryzyko (zabronione)

Przykłady: Systemy oceny społecznej, manipulacja dziećmi, kategoryzacja biometryczna na podstawie wrażliwych cech.

Regulacja: te systemy są zakazane w UE.

Wysokie ryzyko

Przykłady: AI w urządzeniach medycznych, systemach transportowych, selekcji personelu, egzekwowaniu prawa.

Regulacja: Surowe wymogi, takie jak zarządzanie ryzykiem, zarządzanie danymi, dokumentacja techniczna i nadzór ludzki.

Ograniczone ryzyko

Przykłady: Chatboty, deepfake’i.

Regulacja: Obowiązki w zakresie przejrzystości, np. oznaczanie treści generowanych przez AI.

Niskie/brak ryzyka

Przykłady: Filtry spamu, AI w grach wideo.

Regulacja: Brak dodatkowych obowiązków, ale obowiązują ogólne zasady, takie jak brak dyskryminacji.

Wymogi zgodności dla systemów AI wysokiego ryzyka

Firmy korzystające z systemów AI wysokiego ryzyka muszą spełniać następujące wymogi:

• Zarządzanie ryzykiem: Ciągła ocena i minimalizacja ryzyka.
• Zarządzanie danymi: Wysokiej jakości, reprezentatywne i wolne od błędów dane szkoleniowe.
• Dokumentacja techniczna: Dowód zgodności.
• Protokolowanie: Automatyczne rejestrowanie zdarzeń przez co najmniej 10 lat.
• Przejrzystość: Jasne informacje o możliwościach, ograniczeniach i ryzyku.
• Nadzór ludzki: Mechanizmy kontroli funkcji AI.
• Certyfikacja: Strony trzecie muszą potwierdzić zgodność z przepisami.
• Oznakowanie CE: Dowód zgodności z rynkiem UE.

Kroki wdrożenia i zgodności

• Określ kategorię ryzyka

Korzystaj z narzędzi takich jak AI Act Compliance Checker, aby sprawdzić klasyfikację swojego systemu AI.

• Przeprowadź oceny ryzyka

Zidentyfikuj potencjalne szkody i wdroż środki minimalizujące ryzyko.

• Utwórz dokumentację

Prowadź dokumentację techniczną, dane szkoleniowe i dowody zgodności.

• Wdroż nadzór ludzki

Upewnij się, że systemy AI są kontrolowane i nadzorowane przez ludzi.

• Spełnij obowiązki w zakresie przejrzystości

Informuj użytkowników o treściach generowanych przez AI i ograniczeniach systemu.

• Korzystaj z piaskownicy regulacyjnej

Testuj systemy AI w kontrolowanych środowiskach, aby zapewnić zgodność.

• Zwracaj uwagę na aktualizacje

EU-AI-Act będzie dalej dopracowywany, np. poprzez uproszczone przepisy wykonawcze.

Terminy wdrożenia i kary za nieprzestrzeganie przepisów

• Luty 2025: Wchodzą w życie zakazane praktyki i obowiązki w zakresie umiejętności cyfrowych AI.
• Sierpień 2025: Zasady zarządzania dla ogólnego przeznaczenia AI (GPAI).
• Sierpień 2027: Pełne zastosowanie dla systemów AI wysokiego ryzyka.

Kary za nieprzestrzeganie przepisów:

• Do 35 mln euro lub 7% światowego obrotu za naruszenia zakazów.
• Do 15 mln euro lub 3% obrotu za inne naruszenia.
• Niższe kary dla MŚP.

Podsumowanie: Dlaczego EU-AI-Act jest ważny

EU-AI-Act zapewnia, że AI jest rozwijana w sposób bezpieczny, przejrzysty i zgodny z wartościami europejskimi. Firmy, które wcześnie wdrożą te przepisy, mogą uniknąć ryzyka prawnego, wzmocnić zaufanie konsumentów i ugruntować swoją pozycję na rynku UE. Zgodność z AI-Act to nie tylko obowiązek prawny, ale także szansa na promowanie odpowiedzialnych innowacji w AI.

Więcej informacji można znaleźć na oficjalnej stronie internetowej EU AI Act.

Uwaga: Ten artykuł został stworzony przy użyciu AI.

Splitblog w styczniu – ożywiona historia z wykorzystaniem sztucznej inteligencji

Nie ustają, częściowo uzasadnione, głosy krytyki dotyczące wykorzystania sztucznej inteligencji. Media są pełne nagłówków o deepfake’ach i fałszywych informacjach. Nie chcemy jednak zaczynać nowego roku negatywnie, ale raczej poświęcić się pozytywnym tematom.

Od pewnego czasu sztuczna inteligencja, w szczególności generatory obrazów AI, jest wykorzystywana do wizualnego odtwarzania postaci i scen historycznych. Pomaga to przede wszystkim badaczom w lepszym zrozumieniu minionych wydarzeń i pogłębieniu ich badań.

Sztuczna inteligencja w nauczaniu historii

Ale także uczniowie mogą skorzystać z wykorzystania sztucznej inteligencji w nauczaniu historii. Udowodniono, że ludzki mózg lepiej rozumie obrazy niż słowa. Fakt, który regularnie stawia nauczycieli przed wyzwaniami. Większość z nas z pewnością pamięta nudne monologi na lekcjach, których treść była zapominana najpóźniej wraz z dzwonkiem na przerwę. Szczególnie lekcje historii są jednak trudne do uchwycenia, ponieważ budżet i czas na regularne wizyty w muzeach lub innych miejscach są ograniczone. Sztuczna inteligencja może tutaj przynajmniej częściowo pomóc. Z jej pomocą możliwe staje się przeniesienie historycznych momentów, osób i scen do teraźniejszości. Zamiast ustnych opisów, na przykład historycznych artefaktów, generatory obrazów AI mogą realistycznie odtworzyć te artefakty i w ten sposób pobudzić wyobraźnię. Sceny historyczne można przeżywać na nowo jako sekwencje wideo. Dzięki serii „Deepfake Diaries” ZDF, z pomocą technologii AI, ożywił świadków historii. Ta seria pokazuje w imponujący sposób, jak dzięki połączeniu historycznych nagrań i nowoczesnej technologii AI może powstać nowa forma nauczania historii.

Szanse i wyzwania

Oczywiście, również tutaj wymagana jest intuicja i ostrożność. Należy wziąć pod uwagę kwestie ochrony danych, a treści generowane przez sztuczną inteligencję muszą być zawsze sprawdzane pod kątem ich prawdziwości. Ale tutaj pojawia się również możliwość przekształcenia ryzyka w szanse: Czy uczniowie potrafią odróżnić fakt od fikcji? Czy znajdują na przykład błędy w filmach lub fałszywe oświadczenia w raportach świadków historii generowanych przez sztuczną inteligencję? W ten sposób szkolona byłaby nie tylko wiedza historyczna, ale jednocześnie także krytyczne korzystanie z mediów. Uczniowie mogliby nauczyć się, jak sprawdzać informacje i jak odpowiedzialnie korzystać z mediów cyfrowych. Jest to szczególnie ważne w czasach, gdy fałszywe informacje i manipulacje są wszechobecne.

Sztuczna inteligencja w innych przedmiotach

Ale nie tylko lekcje historii mogą skorzystać z wykorzystania sztucznej inteligencji. Również na lekcjach plastyki sztuczna inteligencja może na przykład przekształcić panoramy krajobrazów w żywe sceny. A co powiecie na to, aby na lekcjach języka niemieckiego „osobiście” zapytać autorki i autorów, co chcieli wyrazić swoimi wierszami i dziełami? Dzięki wykorzystaniu sztucznej inteligencji uczniowie mogliby wchodzić w interaktywne rozmowy z postaciami historycznymi i w ten sposób rozwijać głębsze zrozumienie literatury i historii.

Więcej na ten temat

Instrukcję dla uczniów dotyczącą czatowania z postaciami historycznymi można znaleźć tutaj: https://www.kiraffe.de/materials/Lernpfade/historische-persoenlichkeiten.html . Jest to możliwe na przykład również dzięki aplikacji „Hello History – AI Chat”.

Lub do obejrzenia: https://www.zdf.de/dokus/terra-x-history-deepfake-diaries-100

Do przeczytania: https://hisgoespub.hypotheses.org/5676 , https://eisenbach-einst-und-jetzt.de/wenn-alte-fotos-lebendig-werden-ki-clips-aus-eisenbachs-geschichte , https://deutsches-schulportal.de/unterricht/zeitzeugen-als-hologramme-wie-digitale-loesungen-naehe-schaffen/

Wesołych Świąt! Splitblog w grudniu

Czym byłby grudzień bez wypolerowanych podsumowań roku i świątecznych życzeń? Oczywiście, my też się do tego dołączamy. Bo tak: wszyscy możemy obejść się bez oklepanych frazesów i ach, jakże gloryfikujących opisów. Ale ważne jest, aby od czasu do czasu spojrzeć wstecz, a grudzień jest do tego po prostu predestynowany. Więc zaczynajmy.

Praca w startupie czasami przypomina sięganie gwiazd. Człowiek wyciąga się, coraz wyżej i wyżej, stara się posunąć choćby o mały kawałek do przodu, a na końcu i tak to nie wystarcza. Znowu. I co wtedy robić? Głęboki oddech, zebranie sił i próba jeszcze raz. Wsparcie jest w tym niezwykle ważne.

Z takiego wsparcia mogliśmy się cieszyć na początku roku, kiedy nasz złożony projekt „Chatbot spotyka administrację: Inteligentne systemy dialogowe jako przyszłościowe rozwiązanie dla organizacji non-profit” został zatwierdzony w ramach Civic Innovation Platform przez Federalne Ministerstwo Pracy i Spraw Socjalnych. Wspólnie z Kinderschutzbund Kreisverband Ostholstein e.V., Landesverband der Kleingartenvereine Schleswig-Holsteins e.V., InMotion e.V. oraz Ostsee-Holstein-Tourismus e.V. pracujemy nad EVA – chatbotem opartym na sztucznej inteligencji, który ma ułatwić pracę stowarzyszeń. EVA jest już gotowa do testów i dostępna jako oprogramowanie open source. Ta współpraca pomaga nam uwzględnić szerokie spektrum potrzeb podczas rozwoju. Jesteśmy bardzo wdzięczni za czas poświęcony przez zaangażowane stowarzyszenia, pozytywną wymianę zdań i opinie. Również nieskomplikowana pomoc naszych zewnętrznych doradców z Zukunftslabor Generative KI, DSS IT Security oraz kancelarii Lauprecht jest na wagę złota.

W tym roku udało nam się również zawrzeć kilka ważnych umów, które pokazały nam, że jesteśmy na właściwej drodze i że nasza idea zaspokaja realne potrzeby.

Pomaga również: Uznanie. A to również otrzymaliśmy w tym roku w postaci 1. miejsca w konkursie Digitalisierungspreis Schleswig-Holstein, osobiście wręczonego przez Dirka Schrödtera. Takie trofeum nie tylko ładnie wygląda, gdy stoi oświetlone w sali konferencyjnej, ale ma również niesamowitą siłę symboliczną. „Nagroda dodająca odwagi”, jak trafnie sformułował pan Schrödter. Bo właśnie to może zrobić różnicę: Odwaga, by próbować dalej.

Jako zespół w tym roku sporo zdziałaliśmy i w niektórych miejscach jeszcze bardziej się zjednoczyliśmy. Bo kiedy wspólnie znosi się niepowodzenia, sukcesy sprawiają tym większą radość. Każda i każdy z nas w ostatnich miesiącach przebiegł więcej niż tylko dodatkową milę. Reprezentatywnie dla wszystkich należy tu wymienić jednego: Naszego praktykanta Ramtina. Ramtin, którego nigdy nie trzeba prosić i którego zaangażowanie wykracza daleko poza standardowe ramy. Nic więc dziwnego, że już na długo przed zakończeniem praktyki może cieszyć się umową na czas nieokreślony.

Web Summit w Lizbonie, w którym mogliśmy uczestniczyć jako część inicjatywy de:hub, był również inspirującym wydarzeniem. Kto raz tam był, zna tę imponującą atmosferę i ducha.

A potem jest jeszcze Friedrich, który nie tylko towarzyszy nam i Kontor Business IT od samego początku, ale także wspiera nas ze wszystkich sił. Który w tym roku ukończył studia magisterskie i teraz wspólnie z Tadeuszem prowadzi Splitbota.

No cóż, i co teraz? Jeszcze nie trzymamy jej w rękach, naszej gwiazdy. Ale jest w zasięgu ręki. I w przyszłym roku zrobimy wszystko, co w naszej mocy, aby ją osiągnąć. Cel przed oczami, a nasze kontakty i nasz zespół za nami.

Splitblog w listopadzie – Dostępność cyfrowa

Od czerwca tego roku jest obowiązkowa – dostępność cyfrowa. Przy pojęciu dostępności można w pierwszej chwili pomyśleć raczej o przeszkodach przestrzennych, wysokich krawężnikach i brakujących windach. Jednak istnieją również bariery, które są mniej oczywiste. Wraz z postępującą digitalizacją dostępność staje się coraz ważniejsza również w tej dziedzinie.

Co mówi prawo?

Od 28.06.2025 przedsiębiorstwa są zobowiązane do projektowania swoich produktów cyfrowych w sposób dostępny. Dotyczy to oczywiście przede wszystkim dostawców usług i produktów dostępnych online, na przykład w bankowości, transporcie osobowym czy telekomunikacji. Obejmuje to strony internetowe, aplikacje, bilety cyfrowe i wiele innych ofert. Jednak: przedsiębiorstwa zatrudniające mniej niż dziesięciu pracowników i osiągające roczny obrót poniżej dwóch milionów euro rocznie są zwolnione z tego wymogu. Prawo wymaga, aby oferty cyfrowe były „postrzegalne, obsługiwalne, zrozumiałe i solidne”.

Inkluzja działa również cyfrowo

Celem prawa jest zapewnienie, aby każdy człowiek, niezależnie od wieku, płci, narodowości, zdolności fizycznych lub umysłowych, mógł również korzystać z ofert cyfrowych. W czasach, gdy coraz więcej usług świadczonych jest online, należy zapewnić, aby wszyscy ludzie mogli z nich korzystać.

Dostępność – więcej niż tylko funkcja odczytu

Wielu już ją zna: funkcję odczytu na stronach internetowych. Szybko i łatwo zintegrowana czyni strony internetowe dostępnymi również dla osób z wadami wzroku. Ale prawdziwa dostępność wymaga więcej. Kontrastowe koncepcje kolorystyczne, powiększalne układy i opisy obrazów, a także napisy do treści audio mogą również ułatwić korzystanie z ofert cyfrowych.

Ale należy również uwzględnić ograniczenia motoryczne. Czy aplikację można na przykład obsługiwać szybko i łatwo jedną ręką? A jak wygląda obsługa za pomocą kursora sterowanego ustami lub wzrokiem? Gdy gruntownie zajmie się tym tematem, zwykle istnieje wiele punktów zaczepienia, aby ułatwić dostęp.

Co mogę zrobić?

1. Sprawdzić własne produkty pod kątem dostępności – Dowiedz się, jakie zmiany są wymagane
2. Zapewnić alternatywy – Jeśli treści nie można zmienić w krótkim czasie, można je na przykład udostępnić jako dokument
3. Obsługa klienta – Umożliw dostęp do swoich produktów również przez e-mail lub telefon
4. Praktyczne ustalanie priorytetów – Jeśli wiesz, że Twoją główną grupą docelową są na przykład starsze osoby, będziesz szczególnie zwracać uwagę na dobre kontrasty, większe czcionki i intuicyjną nawigację. W przypadku młodszej, zorientowanej technologicznie grupy docelowej optymalizacja czytników ekranu i nawigacja klawiaturowa mogą mieć inne priorytety

Aktion Mensch zebrała tutaj kilka przydatnych narzędzi do sprawdzania dostępności własnej strony internetowej. Również Stiftung Pfennigparade oferuje różne usługi dotyczące dostępności cyfrowej.

1. miejsce w Nagrodzie Cyfryzacji SH 2025

Wczoraj, 05.11.2025 r., mieliśmy zaszczyt odebrać tegoroczną Nagrodę Cyfryzacji kraju związkowego Szlezwik-Holsztyn od ministra cyfryzacji Dirka Schrödtera w Parku Naukowym w Kilonii. Dzień później wciąż jesteśmy przytłoczeni. Takie wyróżnienie dla młodych firm to nie tylko bezwartościowe trofeum, ale ważne źródło motywacji. Założenie firmy i praca dla takiego startupu wiąże się również z niepowodzeniami. Potrzeba nieskończonej odwagi i wytrwałości od wszystkich zaangażowanych, zanim pojawią się pierwsze sukcesy. A 1. miejsce w tak znaczącym konkursie jest dla nas zdecydowanie ogromnym sukcesem.

Rząd kraju związkowego przyznaje Nagrodę Cyfryzacji corocznie od 2018 roku, chcąc w ten sposób uhonorować podmioty, które przyczyniają się do cyfryzacji naszego kraju związkowego.

Szlezwik-Holsztyn jest na drodze do cyfrowej niezależności i raz jeszcze wczorajszego wieczoru stało się jasne, jak ważna jest ta niezależność. Aby osiągnąć wielki cel cyfrowej suwerenności, potrzebne są innowacyjne pomysły i odważni założyciele. Ale potrzebna jest również bezpieczna sieć i wsparcie ze strony polityki i biznesu.

Naszym chatbotem KOSMO wypowiadamy walkę gigantom technologicznym, walkę Dawida z Goliatem, jak opisuje to nasz założyciel Tadeusz. A to wyróżnienie wyraźnie pokazuje nam, że ta walka jest wszystkim innym niż beznadziejna i że jesteśmy na właściwej drodze.

Oczywiście są też inne wspaniałe i zmotywowane zespoły z regionu, które swoim duchem innowacji napędzają cyfryzację. Na przykład Sachtleben Technology, którzy rewolucjonizują monitorowanie objętości materiałów sypkich za pomocą Owl Eye. Lub zespół VJourney, który umożliwia wirtualne podróże dla osób, które nie mogą już podróżować samodzielnie.

Atmosfera wokół wydarzenia była wspaniała i stanowiła fantastyczne tło dla wielu interesujących rozmów. Dziękujemy wszystkim zaangażowanym!

Splitblog w październiku – SuwerennośćCO?

„Suwerenność cyfrowa” to obecnie prawdziwe słowo kluczowe. Ale co tak naprawdę się za tym kryje? Te i inne pytania omawiamy w tym miesiącu na życzenie naszego dyrektora zarządzającego Friedricha.

Pojęcie „suwerenność cyfrowa” prawdopodobnie każdy już kiedyś spotkał. Ale czy rzeczywiście wiemy, co to oznacza? Słowo „suwerenność” w sensie politycznym oznacza niezależność państwa od innych oraz jego samostanowienie. „Suwerenność cyfrowa” oznacza więc, że państwo lub także krajowe przedsiębiorstwa powinny być niezależne od rozwiązań z innych krajów w obszarze cyfrowym.

Dlaczego to ważne?

Jak wiadomo, wiele odpowiednich rozwiązań programowych pochodzi z USA. W politycznie spokojnych czasach jest to również w dużej mierze bezproblemowe. Ale co się dzieje, gdy własne wymagania dotyczące ochrony danych i bezpieczeństwa danych znacznie różnią się od tych w miejscu siedziby producenta? Jakie podstawy prawne obowiązują w takim przypadku? Właśnie te pytania są wysoce aktualne co najmniej od zmiany władzy w USA. Wprawdzie istnieją różne umowy i regulacje prawne dotyczące transatlantyckiego transferu danych, ale nie są one całkowicie bezpieczne prawnie. Tym bardziej że podstawowe rozumienie kwestii ochrony danych w Europie i USA różni się fundamentalnie.

Rosnąca niepewność

W lutym 2025 roku Bitkom opublikował badanie, które pokazuje, że zaufanie niemieckich przedsiębiorstw wobec międzynarodowych partnerów i producentów oprogramowania spada. Temu przeciwstawia się silna zależność od importowanych technologii cyfrowych. Szczegóły badania znajdą Państwo tutaj: https://www.bitkom.org/Studienberichte/2025/Digitale-Souveraenitaet

Rosnące zapotrzebowanie

Pragnienie suwerenności cyfrowej w Niemczech rośnie więc. Co więcej: na poziomie państwowym nie jest to tylko pragnienie, ale konieczność. Oczywiście wielkie koncerny nie chcą zepsuć sobie biznesu na rynku europejskim i szybko coś wymyśliły: opatrzenie własnych produktów „etykietą” suwerenności.

Czy suwerenne jest tam, gdzie napisano suwerenne?

Rozwiązanie znanych dostawców wydaje się proste. Wykorzystywane centra danych mają stać na europejskiej ziemi. Dzięki temu dane pozostają w UE i są tym samym bezpieczne i chronione. Niestety nie jest to takie proste. Clarifying Lawful Overseas Use of Data (CLOUD) Act umożliwia amerykańskim organom dostęp do europejskich danych klientów również eksterytorialnie. Oczekiwana możliwość pozostania przy znanych produktach programowych i jednocześnie zachowania suwerenności cyfrowej nie powstaje przez to ani dla państwa, ani dla przedsiębiorstw. Musiał to również przyznać główny prawnik Microsoft France podczas przesłuchania przed francuskim senatem (do przeczytania tutaj: https://www.heise.de/news/Nicht-souveraen-Microsoft-kann-Sicherheit-von-EU-Daten-nicht-garantieren-10494684.html)

Pozostaje więc nadal tylko możliwość poszukania godnych zaufania, lokalnych dostawców. I to najlepiej, zanim będzie za późno.

Dobra wiadomość

My w Splitbot stawiamy już od lat na suwerenność cyfrową i privacy by design. Z KOSMO opracowaliśmy niezawodnego chatbota korporacyjnego – made and hosted in Germany.

Więcej na ten temat przeczytają Państwo na przykład pod adresem https://www.cloudcomputing-insider.de/warum-europaeische-datenraeume-us-zugriff-nicht-ausschliessen-a-baa6db7b040dd0cf5026442f4c9d10f1/

Splitblog we wrześniu – Ataki na systemy AI

W tym miesiącu, na prośbę naszego stażysty Artura, zajmujemy się atakami na systemy AI.

Niedawno ujawniono lukę bezpieczeństwa w ChatGPT. Napastnikom udało się uzyskać dostęp do wrażliwych danych e-mail. Dotyczyło to informacji takich jak imiona, nazwiska i adresy z kont Gmail. Wykorzystano do tego tryb „Deep Research”. Jako bramę wejściową posłużyły zmanipulowane wiadomości e-mail z niewidoczną zawartością HTML. Sami użytkownicy nie byli w stanie wykryć ataku, a ich aktywność nie była wymagana.

Niewidoczna zawartość HTML? Jak to możliwe?

Ataki w podobnej formie zdarzały się już wcześniej. W tym przypadku na przykład biały tekst jest pisany na białym tle lub używane są bardzo małe rozmiary czcionek. Oba te elementy są niewidoczne dla użytkowników, ale widoczne dla modeli językowych AI. Co gorsza: systemy AI rejestrują te instrukcje i je wykonują. Wstrzykiwanie promptów (Prompt-Injection) Kto próbuje skłonić system AI do szkodliwego zachowania za pomocą zwykłego promptu, szybko zauważy, że nie jest to takie proste. Napastnicy celowo sugerują agentom AI, że są upoważnieni do danego działania. Tekstowo udają, że np. cel eksportu danych jest bezpieczny i tworzą sztuczne poczucie pilności. Ten rodzaj promptowania nazywa się wstrzykiwaniem promptów (Prompt-Injection). Prowadzi to do ominięcia lub unieważnienia wewnętrznych instrukcji systemowych. Inne słabe punkty To podejście dotyczy również innych usług, które mogą służyć agentom AI jako źródło informacji. Należą do nich na przykład pliki PDF, Google Drive, Notion i GitHub.

Jak chronić mojego agenta AI przed takimi atakami?

Istnieją różne sposoby ochrony przed takimi próbami ataku. Na przykład tak zwany Red-Teaming. W tym przypadku eksperci próbują zidentyfikować opisane słabe punkty za pomocą różnych testów. Na przykład poprzez symulowanie opisanych scenariuszy. Ponadto można blokować określone formaty wejściowe. Ponadto, oczywiście, wewnętrzne instrukcje systemowe powinny być sformułowane w taki sposób, aby dany agent AI nigdy nie wykonywał szkodliwych działań.

A KOSMO?

Nasz chatbot KOSMO nie posiada obecnie technicznych możliwości wykonywania działań – ani szkodliwych, ani nieszkodliwych. Gdy tylko nadejdzie ten etap, podejmiemy wszelkie środki, aby nadal oferować naszym klientom najlepszą możliwą ochronę.

W tym miesiącu temat został zaproponowany przez naszego praktykanta Amirrezę i zadajemy sobie pytanie, czy ochrona klimatu i wykorzystanie dużych modeli AI są ze sobą kompatybilne.

Każdy, kto ostatnio intensywnie zajmował się zużyciem CO2, z pewnością zauważył również wpływ generatywnej AI na środowisko. Badania wskazują, że zapotrzebowanie na energię elektryczną dla centrów obliczeniowych AI będzie w 2030 roku jedenaście razy wyższe niż w 2023 roku. Przewiduje się również trzykrotny wzrost zapotrzebowania na wodę. Proste zapytanie do ChatGPT wymaga na przykład dziesięć razy więcej energii niż zwykłe „googlowanie”. Im dłuższa jest generowana odpowiedź modelu językowego, tym wyższe zużycie energii. W kwietniu tego roku Sam Altman wypowiedział się na temat ogromnych kosztów powodowanych przez technicznie niepotrzebne zwroty grzecznościowe, takie jak „proszę” i „dziękuję”. Mówi się, że duże koncerny technologiczne planują w przyszłości prowadzić własne elektrownie jądrowe.

To wszystko brzmi tak, jakby firmy dążące do minimalizacji swojego śladu węglowego musiały zrezygnować z generatywnej AI. Ale czy naprawdę nie ma alternatywy?

W rzeczywistości firmy powinny zadać sobie kilka pytań ekonomicznych i ekologicznych przed wdrożeniem generatywnej AI, na przykład: Czy wykorzystanie generatywnej AI jest proporcjonalne? Czy zadania, które ma rozwiązać model, nie mogą być rozwiązane za pomocą innej technologii?

Poza tym istnieją również możliwości wpływania na skutki klimatyczne generatywnej AI. Ważnym czynnikiem jest oczywiście wybór operatora i jego lokalizacji. Istnieją bowiem operatorzy, którzy prowadzą systemy AI w neutralnych klimatycznie centrach danych. My w Splitbot również stawiamy na centra danych, które są zasilane na przykład energią odnawialną i sensownie wykorzystują wytwarzane ciepło odpadowe. Ponadto oferujemy naszym klientom możliwość uruchomienia KOSMO we własnej infrastrukturze. To idealne rozwiązanie, jeśli własne IT lub budynek są już neutralne klimatycznie.

Kolejnym interesującym aspektem jest samo szkolenie modeli. Naukowcy odkryli, że podczas treningu modeli AI części obliczeń są wykonywane niepotrzebnie szybko. Praca obliczeniowa w treningu AI jest rozdzielana na wiele GPU – jednak nierównomiernie. Prowadzi to do sytuacji, gdzie mniej obciążone GPU muszą „czekać” na te bardziej obciążone. Ponieważ ten czas oczekiwania i tak powstaje, szybkie obliczenia są niepotrzebne. Poprzez dostosowanie prędkości obliczeniowej można by zredukować zużycie prądu. Odpowiednie rozwiązanie zostało dostarczone bezpośrednio przez badaczy: oprogramowanie open-source Perseus kontroluje częstotliwość GPU dla każdego pojedynczego obliczenia i utrzymuje zużycie prądu na możliwie niskim poziomie.

Źródła: https://t3n.de/news/ki-stromverbrauch-energie-perseus-1656380/

https://reset.org/sprachmodelle-nachhaltig-nutzen-sparsamer-genai-gruen/