Rok: 2025

  • Splitblog w grudniu – Wesołych Świąt

    Splitblog w grudniu – Wesołych Świąt

    Wesołych Świąt! Splitblog w grudniu

    Czym byłby grudzień bez wypolerowanych podsumowań roku i świątecznych życzeń? Oczywiście, my też się do tego dołączamy. Bo tak: wszyscy możemy obejść się bez oklepanych frazesów i ach, jakże gloryfikujących opisów. Ale ważne jest, aby od czasu do czasu spojrzeć wstecz, a grudzień jest do tego po prostu predestynowany. Więc zaczynajmy.

    Praca w startupie czasami przypomina sięganie gwiazd. Człowiek wyciąga się, coraz wyżej i wyżej, stara się posunąć choćby o mały kawałek do przodu, a na końcu i tak to nie wystarcza. Znowu. I co wtedy robić? Głęboki oddech, zebranie sił i próba jeszcze raz. Wsparcie jest w tym niezwykle ważne.

    Z takiego wsparcia mogliśmy się cieszyć na początku roku, kiedy nasz złożony projekt „Chatbot spotyka administrację: Inteligentne systemy dialogowe jako przyszłościowe rozwiązanie dla organizacji non-profit” został zatwierdzony w ramach Civic Innovation Platform przez Federalne Ministerstwo Pracy i Spraw Socjalnych. Wspólnie z Kinderschutzbund Kreisverband Ostholstein e.V., Landesverband der Kleingartenvereine Schleswig-Holsteins e.V., InMotion e.V. oraz Ostsee-Holstein-Tourismus e.V. pracujemy nad EVA – chatbotem opartym na sztucznej inteligencji, który ma ułatwić pracę stowarzyszeń. EVA jest już gotowa do testów i dostępna jako oprogramowanie open source. Ta współpraca pomaga nam uwzględnić szerokie spektrum potrzeb podczas rozwoju. Jesteśmy bardzo wdzięczni za czas poświęcony przez zaangażowane stowarzyszenia, pozytywną wymianę zdań i opinie. Również nieskomplikowana pomoc naszych zewnętrznych doradców z Zukunftslabor Generative KI, DSS IT Security oraz kancelarii Lauprecht jest na wagę złota.

    W tym roku udało nam się również zawrzeć kilka ważnych umów, które pokazały nam, że jesteśmy na właściwej drodze i że nasza idea zaspokaja realne potrzeby.

    Pomaga również: Uznanie. A to również otrzymaliśmy w tym roku w postaci 1. miejsca w konkursie Digitalisierungspreis Schleswig-Holstein, osobiście wręczonego przez Dirka Schrödtera. Takie trofeum nie tylko ładnie wygląda, gdy stoi oświetlone w sali konferencyjnej, ale ma również niesamowitą siłę symboliczną. „Nagroda dodająca odwagi”, jak trafnie sformułował pan Schrödter. Bo właśnie to może zrobić różnicę: Odwaga, by próbować dalej.

    Jako zespół w tym roku sporo zdziałaliśmy i w niektórych miejscach jeszcze bardziej się zjednoczyliśmy. Bo kiedy wspólnie znosi się niepowodzenia, sukcesy sprawiają tym większą radość. Każda i każdy z nas w ostatnich miesiącach przebiegł więcej niż tylko dodatkową milę. Reprezentatywnie dla wszystkich należy tu wymienić jednego: Naszego praktykanta Ramtina. Ramtin, którego nigdy nie trzeba prosić i którego zaangażowanie wykracza daleko poza standardowe ramy. Nic więc dziwnego, że już na długo przed zakończeniem praktyki może cieszyć się umową na czas nieokreślony.

    Web Summit w Lizbonie, w którym mogliśmy uczestniczyć jako część inicjatywy de:hub, był również inspirującym wydarzeniem. Kto raz tam był, zna tę imponującą atmosferę i ducha.

    A potem jest jeszcze Friedrich, który nie tylko towarzyszy nam i Kontor Business IT od samego początku, ale także wspiera nas ze wszystkich sił. Który w tym roku ukończył studia magisterskie i teraz wspólnie z Tadeuszem prowadzi Splitbota.

    No cóż, i co teraz? Jeszcze nie trzymamy jej w rękach, naszej gwiazdy. Ale jest w zasięgu ręki. I w przyszłym roku zrobimy wszystko, co w naszej mocy, aby ją osiągnąć. Cel przed oczami, a nasze kontakty i nasz zespół za nami.

  • Dostępność cyfrowa

    Dostępność cyfrowa

    Splitblog w listopadzie – Dostępność cyfrowa

    Od czerwca tego roku jest obowiązkowa – dostępność cyfrowa. Przy pojęciu dostępności można w pierwszej chwili pomyśleć raczej o przeszkodach przestrzennych, wysokich krawężnikach i brakujących windach. Jednak istnieją również bariery, które są mniej oczywiste. Wraz z postępującą digitalizacją dostępność staje się coraz ważniejsza również w tej dziedzinie.

    Co mówi prawo?

    Od 28.06.2025 przedsiębiorstwa są zobowiązane do projektowania swoich produktów cyfrowych w sposób dostępny. Dotyczy to oczywiście przede wszystkim dostawców usług i produktów dostępnych online, na przykład w bankowości, transporcie osobowym czy telekomunikacji. Obejmuje to strony internetowe, aplikacje, bilety cyfrowe i wiele innych ofert. Jednak: przedsiębiorstwa zatrudniające mniej niż dziesięciu pracowników i osiągające roczny obrót poniżej dwóch milionów euro rocznie są zwolnione z tego wymogu. Prawo wymaga, aby oferty cyfrowe były „postrzegalne, obsługiwalne, zrozumiałe i solidne”.

    Inkluzja działa również cyfrowo

    Celem prawa jest zapewnienie, aby każdy człowiek, niezależnie od wieku, płci, narodowości, zdolności fizycznych lub umysłowych, mógł również korzystać z ofert cyfrowych. W czasach, gdy coraz więcej usług świadczonych jest online, należy zapewnić, aby wszyscy ludzie mogli z nich korzystać.

    Dostępność – więcej niż tylko funkcja odczytu

    Wielu już ją zna: funkcję odczytu na stronach internetowych. Szybko i łatwo zintegrowana czyni strony internetowe dostępnymi również dla osób z wadami wzroku. Ale prawdziwa dostępność wymaga więcej. Kontrastowe koncepcje kolorystyczne, powiększalne układy i opisy obrazów, a także napisy do treści audio mogą również ułatwić korzystanie z ofert cyfrowych.

    Ale należy również uwzględnić ograniczenia motoryczne. Czy aplikację można na przykład obsługiwać szybko i łatwo jedną ręką? A jak wygląda obsługa za pomocą kursora sterowanego ustami lub wzrokiem? Gdy gruntownie zajmie się tym tematem, zwykle istnieje wiele punktów zaczepienia, aby ułatwić dostęp.

    Co mogę zrobić?

    1. Sprawdzić własne produkty pod kątem dostępności – Dowiedz się, jakie zmiany są wymagane
    2. Zapewnić alternatywy – Jeśli treści nie można zmienić w krótkim czasie, można je na przykład udostępnić jako dokument
    3. Obsługa klienta – Umożliw dostęp do swoich produktów również przez e-mail lub telefon
    4. Praktyczne ustalanie priorytetów – Jeśli wiesz, że Twoją główną grupą docelową są na przykład starsze osoby, będziesz szczególnie zwracać uwagę na dobre kontrasty, większe czcionki i intuicyjną nawigację. W przypadku młodszej, zorientowanej technologicznie grupy docelowej optymalizacja czytników ekranu i nawigacja klawiaturowa mogą mieć inne priorytety

    Aktion Mensch zebrała tutaj kilka przydatnych narzędzi do sprawdzania dostępności własnej strony internetowej. Również Stiftung Pfennigparade oferuje różne usługi dotyczące dostępności cyfrowej.

  • 1. miejsce w Nagrodzie Cyfryzacji 2025

    1. miejsce w Nagrodzie Cyfryzacji 2025

    1. miejsce w Nagrodzie Cyfryzacji SH 2025

    Wczoraj, 05.11.2025 r., mieliśmy zaszczyt odebrać tegoroczną Nagrodę Cyfryzacji kraju związkowego Szlezwik-Holsztyn od ministra cyfryzacji Dirka Schrödtera w Parku Naukowym w Kilonii. Dzień później wciąż jesteśmy przytłoczeni. Takie wyróżnienie dla młodych firm to nie tylko bezwartościowe trofeum, ale ważne źródło motywacji. Założenie firmy i praca dla takiego startupu wiąże się również z niepowodzeniami. Potrzeba nieskończonej odwagi i wytrwałości od wszystkich zaangażowanych, zanim pojawią się pierwsze sukcesy. A 1. miejsce w tak znaczącym konkursie jest dla nas zdecydowanie ogromnym sukcesem.

    Rząd kraju związkowego przyznaje Nagrodę Cyfryzacji corocznie od 2018 roku, chcąc w ten sposób uhonorować podmioty, które przyczyniają się do cyfryzacji naszego kraju związkowego.

    Szlezwik-Holsztyn jest na drodze do cyfrowej niezależności i raz jeszcze wczorajszego wieczoru stało się jasne, jak ważna jest ta niezależność. Aby osiągnąć wielki cel cyfrowej suwerenności, potrzebne są innowacyjne pomysły i odważni założyciele. Ale potrzebna jest również bezpieczna sieć i wsparcie ze strony polityki i biznesu.

    Naszym chatbotem KOSMO wypowiadamy walkę gigantom technologicznym, walkę Dawida z Goliatem, jak opisuje to nasz założyciel Tadeusz. A to wyróżnienie wyraźnie pokazuje nam, że ta walka jest wszystkim innym niż beznadziejna i że jesteśmy na właściwej drodze.

    Oczywiście są też inne wspaniałe i zmotywowane zespoły z regionu, które swoim duchem innowacji napędzają cyfryzację. Na przykład Sachtleben Technology, którzy rewolucjonizują monitorowanie objętości materiałów sypkich za pomocą Owl Eye. Lub zespół VJourney, który umożliwia wirtualne podróże dla osób, które nie mogą już podróżować samodzielnie.

    Atmosfera wokół wydarzenia była wspaniała i stanowiła fantastyczne tło dla wielu interesujących rozmów. Dziękujemy wszystkim zaangażowanym!

  • Splitblog w październiku – SuwerennośćCO?

    Splitblog w październiku – SuwerennośćCO?

    Splitblog w październiku – SuwerennośćCO?

    „Suwerenność cyfrowa” to obecnie prawdziwe słowo kluczowe. Ale co tak naprawdę się za tym kryje? Te i inne pytania omawiamy w tym miesiącu na życzenie naszego dyrektora zarządzającego Friedricha.

    Pojęcie „suwerenność cyfrowa” prawdopodobnie każdy już kiedyś spotkał. Ale czy rzeczywiście wiemy, co to oznacza? Słowo „suwerenność” w sensie politycznym oznacza niezależność państwa od innych oraz jego samostanowienie. „Suwerenność cyfrowa” oznacza więc, że państwo lub także krajowe przedsiębiorstwa powinny być niezależne od rozwiązań z innych krajów w obszarze cyfrowym.

    Dlaczego to ważne?

    Jak wiadomo, wiele odpowiednich rozwiązań programowych pochodzi z USA. W politycznie spokojnych czasach jest to również w dużej mierze bezproblemowe. Ale co się dzieje, gdy własne wymagania dotyczące ochrony danych i bezpieczeństwa danych znacznie różnią się od tych w miejscu siedziby producenta? Jakie podstawy prawne obowiązują w takim przypadku? Właśnie te pytania są wysoce aktualne co najmniej od zmiany władzy w USA. Wprawdzie istnieją różne umowy i regulacje prawne dotyczące transatlantyckiego transferu danych, ale nie są one całkowicie bezpieczne prawnie. Tym bardziej że podstawowe rozumienie kwestii ochrony danych w Europie i USA różni się fundamentalnie.

    Rosnąca niepewność

    W lutym 2025 roku Bitkom opublikował badanie, które pokazuje, że zaufanie niemieckich przedsiębiorstw wobec międzynarodowych partnerów i producentów oprogramowania spada. Temu przeciwstawia się silna zależność od importowanych technologii cyfrowych. Szczegóły badania znajdą Państwo tutaj: https://www.bitkom.org/Studienberichte/2025/Digitale-Souveraenitaet

    Rosnące zapotrzebowanie

    Pragnienie suwerenności cyfrowej w Niemczech rośnie więc. Co więcej: na poziomie państwowym nie jest to tylko pragnienie, ale konieczność. Oczywiście wielkie koncerny nie chcą zepsuć sobie biznesu na rynku europejskim i szybko coś wymyśliły: opatrzenie własnych produktów „etykietą” suwerenności.

    Czy suwerenne jest tam, gdzie napisano suwerenne?

    Rozwiązanie znanych dostawców wydaje się proste. Wykorzystywane centra danych mają stać na europejskiej ziemi. Dzięki temu dane pozostają w UE i są tym samym bezpieczne i chronione. Niestety nie jest to takie proste. Clarifying Lawful Overseas Use of Data (CLOUD) Act umożliwia amerykańskim organom dostęp do europejskich danych klientów również eksterytorialnie. Oczekiwana możliwość pozostania przy znanych produktach programowych i jednocześnie zachowania suwerenności cyfrowej nie powstaje przez to ani dla państwa, ani dla przedsiębiorstw. Musiał to również przyznać główny prawnik Microsoft France podczas przesłuchania przed francuskim senatem (do przeczytania tutaj: https://www.heise.de/news/Nicht-souveraen-Microsoft-kann-Sicherheit-von-EU-Daten-nicht-garantieren-10494684.html)

    Pozostaje więc nadal tylko możliwość poszukania godnych zaufania, lokalnych dostawców. I to najlepiej, zanim będzie za późno.

    Dobra wiadomość

    My w Splitbot stawiamy już od lat na suwerenność cyfrową i privacy by design. Z KOSMO opracowaliśmy niezawodnego chatbota korporacyjnego – made and hosted in Germany.

    Więcej na ten temat przeczytają Państwo na przykład pod adresem https://www.cloudcomputing-insider.de/warum-europaeische-datenraeume-us-zugriff-nicht-ausschliessen-a-baa6db7b040dd0cf5026442f4c9d10f1/

  • Wydanie jesienne 2025

    Wydanie jesienne 2025

    Nasza jesienna aktualizacja jest już dostępna!

    Podczas gdy na zewnątrz opadają pierwsze liście, my wprowadzamy świeży powiew do Waszych procesów pracy. Od teraz KOSMO oferuje jeszcze więcej funkcji dla Was.

    Wszystko w jednym miejscu: Funkcja „Zasoby zewnętrzne” zmienia się w „Personalizację„. Tutaj znajdziecie wszystkie opcje, aby połączyć KOSMO ze źródłami informacji i dostosować go do Waszych potrzeb. Przesyłanie plików, standardowe instrukcje, integracja z pocztą e-mail i chmurą. Uczyń KOSMO swoim KOSMO.

    Spotkania zawsze pod kontrolą: Połączcie swój kalendarz Outlook i pytajcie KOSMO o nadchodzące spotkania.

    Chmura: Oprócz uproszczonej integracji z Nextcloud, możecie teraz szybko i łatwo połączyć OneDrive z KOSMO.

    Pamięć: Chcecie, aby KOSMO pamiętał poprzednie rozmowy? Z tagiem „Pamięć” to już nie problem.

    Kosz: Koniec z przypadkowym usuwaniem – dzięki funkcji kosza możecie przywracać poprzednie rozmowy.

    Kody QR: Chcecie szybko i łatwo udostępnić stronę internetową Waszej firmy? Poproście KOSMO o wygenerowanie kodu QR.

    A czy znacie już centrum pomocy KOSMO? Tutaj znajdziecie wszystkie informacje dotyczące aplikacji i nowych funkcji!

  • NASZ SPLITBLOG WE WRZEŚNIU: ATAKI NA SYSTEMY AI

    NASZ SPLITBLOG WE WRZEŚNIU: ATAKI NA SYSTEMY AI

    Splitblog we wrześniu – Ataki na systemy AI

    W tym miesiącu, na prośbę naszego stażysty Artura, zajmujemy się atakami na systemy AI.

    Niedawno ujawniono lukę bezpieczeństwa w ChatGPT. Napastnikom udało się uzyskać dostęp do wrażliwych danych e-mail. Dotyczyło to informacji takich jak imiona, nazwiska i adresy z kont Gmail. Wykorzystano do tego tryb „Deep Research”. Jako bramę wejściową posłużyły zmanipulowane wiadomości e-mail z niewidoczną zawartością HTML. Sami użytkownicy nie byli w stanie wykryć ataku, a ich aktywność nie była wymagana.

    Niewidoczna zawartość HTML? Jak to możliwe?

    Ataki w podobnej formie zdarzały się już wcześniej. W tym przypadku na przykład biały tekst jest pisany na białym tle lub używane są bardzo małe rozmiary czcionek. Oba te elementy są niewidoczne dla użytkowników, ale widoczne dla modeli językowych AI. Co gorsza: systemy AI rejestrują te instrukcje i je wykonują. Wstrzykiwanie promptów (Prompt-Injection) Kto próbuje skłonić system AI do szkodliwego zachowania za pomocą zwykłego promptu, szybko zauważy, że nie jest to takie proste. Napastnicy celowo sugerują agentom AI, że są upoważnieni do danego działania. Tekstowo udają, że np. cel eksportu danych jest bezpieczny i tworzą sztuczne poczucie pilności. Ten rodzaj promptowania nazywa się wstrzykiwaniem promptów (Prompt-Injection). Prowadzi to do ominięcia lub unieważnienia wewnętrznych instrukcji systemowych. Inne słabe punkty To podejście dotyczy również innych usług, które mogą służyć agentom AI jako źródło informacji. Należą do nich na przykład pliki PDF, Google Drive, Notion i GitHub.

    Jak chronić mojego agenta AI przed takimi atakami?

    Istnieją różne sposoby ochrony przed takimi próbami ataku. Na przykład tak zwany Red-Teaming. W tym przypadku eksperci próbują zidentyfikować opisane słabe punkty za pomocą różnych testów. Na przykład poprzez symulowanie opisanych scenariuszy. Ponadto można blokować określone formaty wejściowe. Ponadto, oczywiście, wewnętrzne instrukcje systemowe powinny być sformułowane w taki sposób, aby dany agent AI nigdy nie wykonywał szkodliwych działań.

    A KOSMO?

    Nasz chatbot KOSMO nie posiada obecnie technicznych możliwości wykonywania działań – ani szkodliwych, ani nieszkodliwych. Gdy tylko nadejdzie ten etap, podejmiemy wszelkie środki, aby nadal oferować naszym klientom najlepszą możliwą ochronę.

  • NASZ BLOG SPLITBLOG W SIERPNIU: GReen AI

    NASZ BLOG SPLITBLOG W SIERPNIU: GReen AI

    W tym miesiącu temat został zaproponowany przez naszego praktykanta Amirrezę i zadajemy sobie pytanie, czy ochrona klimatu i wykorzystanie dużych modeli AI są ze sobą kompatybilne.

    Każdy, kto ostatnio intensywnie zajmował się zużyciem CO2, z pewnością zauważył również wpływ generatywnej AI na środowisko. Badania wskazują, że zapotrzebowanie na energię elektryczną dla centrów obliczeniowych AI będzie w 2030 roku jedenaście razy wyższe niż w 2023 roku. Przewiduje się również trzykrotny wzrost zapotrzebowania na wodę. Proste zapytanie do ChatGPT wymaga na przykład dziesięć razy więcej energii niż zwykłe „googlowanie”. Im dłuższa jest generowana odpowiedź modelu językowego, tym wyższe zużycie energii. W kwietniu tego roku Sam Altman wypowiedział się na temat ogromnych kosztów powodowanych przez technicznie niepotrzebne zwroty grzecznościowe, takie jak „proszę” i „dziękuję”. Mówi się, że duże koncerny technologiczne planują w przyszłości prowadzić własne elektrownie jądrowe.

    To wszystko brzmi tak, jakby firmy dążące do minimalizacji swojego śladu węglowego musiały zrezygnować z generatywnej AI. Ale czy naprawdę nie ma alternatywy?

    W rzeczywistości firmy powinny zadać sobie kilka pytań ekonomicznych i ekologicznych przed wdrożeniem generatywnej AI, na przykład: Czy wykorzystanie generatywnej AI jest proporcjonalne? Czy zadania, które ma rozwiązać model, nie mogą być rozwiązane za pomocą innej technologii?

    Poza tym istnieją również możliwości wpływania na skutki klimatyczne generatywnej AI. Ważnym czynnikiem jest oczywiście wybór operatora i jego lokalizacji. Istnieją bowiem operatorzy, którzy prowadzą systemy AI w neutralnych klimatycznie centrach danych. My w Splitbot również stawiamy na centra danych, które są zasilane na przykład energią odnawialną i sensownie wykorzystują wytwarzane ciepło odpadowe. Ponadto oferujemy naszym klientom możliwość uruchomienia KOSMO we własnej infrastrukturze. To idealne rozwiązanie, jeśli własne IT lub budynek są już neutralne klimatycznie.

    Kolejnym interesującym aspektem jest samo szkolenie modeli. Naukowcy odkryli, że podczas treningu modeli AI części obliczeń są wykonywane niepotrzebnie szybko. Praca obliczeniowa w treningu AI jest rozdzielana na wiele GPU – jednak nierównomiernie. Prowadzi to do sytuacji, gdzie mniej obciążone GPU muszą „czekać” na te bardziej obciążone. Ponieważ ten czas oczekiwania i tak powstaje, szybkie obliczenia są niepotrzebne. Poprzez dostosowanie prędkości obliczeniowej można by zredukować zużycie prądu. Odpowiednie rozwiązanie zostało dostarczone bezpośrednio przez badaczy: oprogramowanie open-source Perseus kontroluje częstotliwość GPU dla każdego pojedynczego obliczenia i utrzymuje zużycie prądu na możliwie niskim poziomie.

    Źródła: https://t3n.de/news/ki-stromverbrauch-energie-perseus-1656380/

    https://reset.org/sprachmodelle-nachhaltig-nutzen-sparsamer-genai-gruen/

  • NOWE FUNKCJE W KOSMO

    NOWE FUNKCJE W KOSMO

    Niektórzy z Państwa z pewnością na to czekali: KOSMO otrzymał nowe funkcje wraz z aktualną wersją. Co się za tym kryje, zdradzimy Państwu dzisiaj.

    Przeglądarka PDF

    Gdy KOSMO generuje odpowiedź, zawsze podawane są również wykorzystane źródła. Jeśli była to strona internetowa, można ją było łatwo otworzyć jednym kliknięciem. Teraz jest to możliwe również w przypadku plików PDF, które udostępniono KOSMO. Jedno kliknięcie – i plik otwiera się w przeglądarce PDF. Fragmenty tekstu, które KOSMO wykorzystał do odpowiedzi, są oznaczone kolorami. Ponadto można bezpośrednio wydrukować lub pobrać plik. Długotrwałe poszukiwanie dokumentów dobiegło końca!

    Zaplanowane zadania

    Regularnie zadajesz KOSMO te same pytania? W takim razie mamy dla Ciebie idealne rozwiązanie: zaplanowane zadania, czyli zadania, które można zaplanować. Od teraz możesz określić, co, kiedy i jak często KOSMO ma dla Ciebie robić. Od prognozy pogody po najnowsze posty z Twojej ulubionej strony internetowej – KOSMO podsumowuje Twoje aktualizacje w osobnym czacie, dzięki czemu zawsze jesteś na bieżąco.

    Powiadomienia push

    Najnowsze informacje są oczywiście dostępne również bezpośrednio na smartfonie. KOSMO informuje, gdy zaplanowane zadania zostały wykonane. Dzięki temu z pewnością nie przegapisz już żadnych ważnych informacji.

    Połączenie e-mail (beta)

    Obecnie jeszcze w wersji beta, wkrótce w pełni funkcjonalne: połączenie z Twoją skrzynką e-mail. Wystarczy zapisać dane dostępowe i już możesz pytać KOSMO o zawartość Twoich wiadomości e-mail. W ten sposób Twoje e-maile staną się źródłem informacji. Funkcja może być już używana dla IMAP. Użytkownicy Gmaila będą musieli jeszcze trochę poczekać.

    Nawiasem mówiąc: Funkcję e-mail, a także znane funkcje „Nextcloud”, „Przechowywanie plików”, „Zapisywanie stron internetowych” i „Standardowe instrukcje” można teraz znaleźć w punkcie menu „Zasoby zewnętrzne”.

    I jeszcze mała zapowiedź: Następna wersja jest już w blokach startowych i planowana jest na koniec października. Między innymi z podsumowaniami za naciśnięciem jednego przycisku – mogą Państwo być ciekawi!

  • NASZ SPLITBLOG W LIPCU: KIEDY CHATBOTY STAJĄ SIĘ POLITYCZNE

    NASZ SPLITBLOG W LIPCU: KIEDY CHATBOTY STAJĄ SIĘ POLITYCZNE

    Splitblog w lipcu – Kiedy chatboty stają się polityczne

    W tym miesiącu pokazujemy, dlaczego ważne jest kwestionowanie pochodzenia chatbotów i modeli AI oraz zachowanie krytycznego podejścia w obcowaniu z nimi. Propozycję tego tematu przedstawił Mats z naszego zespołu backend.

    Jak programowanie asystenta AI lub chatbota może wpływać na zachowanie odpowiedzi, udowodnił w ostatnich tygodniach w imponujący sposób Grok 4. Bez ograniczeń Grok generował antysemickie i rasistowskie wypowiedzi, które trafiły na pierwsze strony gazet. Firma xAI przeprosiła w międzyczasie i podała, że Grok zgodnie z programowaniem został poinstruowany, aby odpowiadać „szczerze” i nie powinien „bać się szokować ludzi politycznie poprawnych”. Cóż, przynajmniej jeśli chodzi o tę ostatnią instrukcję, można chyba mówić o osiągnięciu celu. A także przy założeniu, że nawet zła prasa to dobra prasa, Grok z pewnością spełnił swój cel. W każdym przypadku jednak nagłówki są wystarczającym powodem, aby poważnie zająć się różnymi producentami i dostawcami chatbotów oraz asystentów AI. Niezależnie od tego, w jakiej dziedzinie systemy mają być wykorzystywane, dokładna weryfikacja i obszerne testy z wyprzedzeniem są pilnie konieczne. Szczególnie gdy firmy pozwalają chatbotom reprezentować się w swoim wizerunku zewnętrznym, w przeciwnym razie mogą wystąpić poważne szkody wizerunkowe.

    Ale jak w ogóle może dojść do tego, że asystenci AI pozwalają sobie na takie wypowiedzi? Podstawą wszystkich modeli językowych są dane treningowe o różnym zakresie i różnym pochodzeniu. Czyli masowe informacje, które są dostępne do udzielania odpowiedzi. To, jak i w jaki sposób mają być generowane odpowiedzi, jest kwestią programowania lub indywidualnych ustawień. Można więc na przykład ustalić, że określone źródła informacji powinny być wykorzystywane priorytetowo lub że generowane odpowiedzi powinny być szczególnie humorystyczne, naukowe, długie lub krótkie. W przypadku Grok według naukowca danych Jeremy’ego Howarda istnieją również wskazówki, że chatbot przy kontrowersyjnych tematach często reprezentuje opinie i wypowiedzi właściciela xAI Elona Muska. Może to jednak według programisty Simona Willisona wynikać z prominentnej roli Muska.

    Podobne trendy jak obecnie przy Grok można jednak obserwować także przy innych chatbotach. Również DeepSeek nie odpowiada neutralnie na szereg pytań politycznych. Częściowo generowane odpowiedzi są usuwane krótko po utworzeniu i zastępowane przez „Porozmawiajmy o czymś innym”. Najwyraźniej odpowiedzi bota przy korzystaniu z wersji anglojęzycznej są przynajmniej nieco bardziej neutralne niż w wersji chińskiej. Obszerne próby z DeepSeek ujawniają zaprogramowaną „autocenzurę”.

    Nie jest jednak niczym niezwykłym także w Europie nadawanie chatbotom pewnych standardów etycznych, zanim zostaną wypuszczone na ludzkość. Tak więc również nasz chatbot KOSMO, który bazuje na modelu językowym z domu Mixtral, odpowiada grzecznie wymijająco, gdy chodzi na przykład o przemoc i przestępczość. Podczas gdy takie zachowanie jest pożądane, obiektywność przy odtwarzaniu faktów powinna z naszego punktu widzenia być zawsze zapewniona. Wkład w to wnosi zintegrowane wskazanie źródeł, które daje użytkownikom możliwość sprawdzenia i oceny wykorzystanych źródeł.

    Całkowicie wykluczyć pewien bias przy modelach językowych nigdy się nie da. Wiedza chatbota jest zawsze tylko tak obszerna jak jego dane treningowe i informacje dodatkowe, a zachowanie odpowiedzi często także wpływa na nie feedback użytkowników podczas fine-tuningu. Również sami użytkownicy mogą (nieświadomie) znacząco wpływać na zachowanie odpowiedzi poprzez wprowadzane prompty.

    Obok innych czynników należy więc również dokładnie przyjrzeć się pochodzeniu wykorzystywanego modelu językowego, zanim zbytnio polegnie się na poprawności odpowiedzi.

  • NASZ SPLITBLOG W CZERWCU: Czy sztuczna inteligencja zmienia egzaminy akademickie?

    NASZ SPLITBLOG W CZERWCU: Czy sztuczna inteligencja zmienia egzaminy akademickie?

    W tym miesiącu spoglądamy w przyszłość i zadajemy sobie pytanie, jak sztuczna inteligencja wpłynie na egzaminy na uniwersytetach i w szkołach. Ta propozycja tematu pochodzi od naszego studenta-praktykanta Vincenta, który obecnie odbywa semestr zagraniczny w Szwecji.

    Doniesienia o pracach generowanych przez sztuczną inteligencję przez uczniów i studentów mnożą się. Coraz częściej w mediach dyskutowana jest kwestia, jak instytucje edukacyjne mają być w stanie rozpoznać, które teksty rzeczywiście zostały stworzone przez ludzi. Pomimo pewnych wskazówek, takich jak określone sformułowania, style pisania i ponadprzeciętna bezbłędność, już teraz trudno jest jednoznacznie określić, czy dany tekst rzeczywiście pochodzi spod pióra człowieka. Dzięki coraz lepszym modelom językowym i metodom promptowania (np. „Sformułuj jak najbardziej po ludzku i wprowadź błędy”) jednoznaczne rozpoznanie będzie stawało się coraz trudniejsze. To duży problem, jeśli weźmie się pod uwagę, że znaczna część kształcenia akademickiego opiera się na tworzeniu tekstów. Czy to przy aplikacjach, egzaminach, pracach magisterskich czy pracach domowych – wszędzie egzaminatorzy polegają na procedurach tekstowych. Jednak ryzyko jest wysokie, że te procedury egzaminacyjne długoterminowo nie będą już działać niezawodnie. Oprogramowanie detektorów, które obiecuje rozpoznawanie sztucznie tworzonych tekstów, może wprawdzie dostarczać wskazówek, ale samo nie jest wystarczająco niezawodne i można je obejść często prostymi środkami. I szczególnie kontrowersyjne: teksty napisane szczególnie przez osoby niebędące native speakerami są często błędnie rozpoznawane przez te programy jako stworzone przez sztuczną inteligencję. Niebezpieczeństwo dyskryminacji w procesach selekcyjnych może przez to znacznie wzrosnąć. Tym bardziej że nie tylko trudno jest udowodnić, że tekst został stworzony przez sztuczną inteligencję, ale także że jest odwrotnie.

    Ale jak uczelnie wyższe i inne instytucje edukacyjne mogą sobie z tym poradzić? Ustne procedury egzaminacyjne mogłyby w większości przypadków wyraźnie pokazać, czy ktoś rzeczywiście sam myślał i zrozumiał. Tylko że egzaminy ustne wiążą się z ogromnym nakładem czasu i personelu i nie mogą bez dalszych działań sprawdzać tego samego zakresu wiedzy co egzaminy pisemne.

    Większość instytucji edukacyjnych obecnie nadal opiera się na prostej zasadzie zakazu. Jednak niektóre instytucje już podążają nowymi drogami. Till Krause z Uniwersytetu w Landshut na przykład pozwala studentom aktywnie wykorzystywać sztuczną inteligencję jako źródło – o ile jest to wyraźnie oznaczone. Wymaga się więc precyzyjnego podania wykorzystanego modelu językowego i użytego promptu. Bowiem przy wszystkich wyzwaniach, jakie niesie ze sobą wykorzystanie sztucznej inteligencji w instytucjach edukacyjnych, sztuczna inteligencja oferuje przede wszystkim jedno: niesamowicie obszerny skarb informacji, które można doskonale wykorzystać do nauki i które stanowią fantastyczną podstawę do rozwoju własnych pomysłów i myśli.

    Także na Uniwersytecie Ekonomicznym w Pradze podchodzi się pragmatycznie do wykorzystania sztucznej inteligencji. Tamtejszy kierunek studiów ekonomicznych od jesieni 2024 roku nie musi już pisać konwencjonalnej pracy licencjackiej. Zamiast tego będą prace projektowe, których wyniki będą oceniane. Wielu uważa to podejście za bardziej sensowne i praktyczne niż dotychczasowe prace. To całkiem rozsądne podejście, szczególnie dla kierunków studiów, gdzie nie chodzi przede wszystkim o bezbłędne i kunsztowne pisanie. Być może leży tu nawet szansa na wyraźniejsze wydobycie talentów ludzi, którzy na przykład mają dysleksję.

    Faktem jest, że akademickie procedury egzaminacyjne będą musiały zostać zmienione. Sztuczna inteligencja – podobnie jak inne środki technologiczne – już teraz weszła do codzienności uczniów i studentów. Teraz potrzebne są możliwości sprawdzania ludzkiej wiedzy w inny sposób.

    Absolutnie wart wysłuchania podcast na ten temat znajduje się tutaj: https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/ki-or-not-ki-koennen-wir-ihre-texte-noch-enttarnen/tagesschau/13779441/