Rozwiązuje problemy w stanie wyjątkowym: Jak offline-AIpokonuje swoje wyzwania

Zalety optymalizowanej AI dla firm i administracji można nawet na laptopie wyświetlić offline. Ta Offline-AI wykonuje wiele zadań, więcej niż każda uniwersalna inteligencja jak ChatGPT. Ofiaruje pełną kontrolę nad danymi i działa również w trybie ciągłym bardzo ekonomicznie.

Wprowadzenie

Ten artykuł jest praktycznym dowodem na możliwości AI offline. Jednak najpierw krótkie wprowadzenie do AI offline. Jest ona już od roku możliwa, ale dopiero niedawno tak lepsza, także dla języka niemieckiego.

Tekst źródłowy: Offline-AI jest lokalnie uruchamianym na własnym komputerze lub serwerze systemem AI. Offline oznacza, że system AI działa bez połączenia z Internetem. Z tego wynika, że żadne dane nie są wysyłane do osób trzecich. Poniższe zalety oferuje offline-AIw szczególności: Tekst tłumaczony: Offline-AI jest lokalnie uruchamianym na własnym komputerze lub serwerze systemem AI. Offline oznacza, że system AI działa bez połączenia z Internetem. Z tego wynika, że żadne dane nie są wysyłane do osób trzecich. Poniższe zalety oferuje offline-AIw szczególności:

• Przedsiębiorstwa i urzędy otrzymują Rozwiązywacz problemów dla swoich przypadków użycia.
• W każdej chwili można instalować i wykorzystywać nowe modele językowe AI, modeli obrazu Stable Diffusion, modele audio, wideo.
• Samodzielny długoterminowy działanie jest kosztowo korzystne. Do widzenia Microsoft Azure. Do widzenia lukami w bezpieczeństwie.
• Jasne samoucząca się AI, która może sama krytykować się, jest praktycznie możliwa.
• Słowem prawa: Umowy na przetwarzanie zleceń nie są potrzebne; wątpliwe Opt-Out zamiast pytania o zgodę, które ChatGPT oferuje, nie ma już żadnego wpływu prawnego. Nikomu nie trzeba się już obawiać, kiedy kolejna inspekcja będzie zakazywała użycie ChatGPT.

Oto tłumaczenie tekstu na język polski: Z pełną świadomością należy wspomnieć, że interfejs programistyczny (API) ChatGPT ma czasem swój sens. W tym przypadku jednak, dzięki otwartym modelom języka, które stają się coraz bardziej zaawansowane co tydzień, takie sytuacje stają się coraz rzadsze. Przedtem: z pomocą API można zrobić wiele rzeczy. Na przykład: Z Wprowadź-polecenie model języka tworzy Beskrivelse af programmet kompozycji obrazu, która następnie jest przekształcana przez Model for billedgenerering w obraz. Oto przykładowe wyjście:

Dla języka niemieckiego istnieją często lepsze modeli językowe niż ChatGPT. Albo są one jakościowo lepsze, albo tańsze. Zainteresowani powinni zobaczyć Claude, Command R+ i Mistral. AI offline jest jednak bardziej przyjemna i lepsza do konkretnych problemów.

Kiedy offline-AIi kiedy ogólny chatbot?

Ktoś, kto chce wiedzieć, jak wysoki jest trzeci najwyższy szczyt świata, może bez obaw skorzystać z ChatGPT. Również czasami i uzupełnianie publicznych tekstów do semiprofesjonalnych celów to dobry przykład zastosowania ogólnych chatbotów. Te chatbota są również dostępne dla bezpiecznego pogadanka.

Używanie chatbota jako wyszukiwarkę internetową jest sposobem, który zdaje się być popularny u wielu osób. Ktoś, kto chce mieć bardzo wydajną wyszukiwarkę, powinien skorzystać z Offline-AI. OpenAI nie przeczyta i nie oceni dla Ciebie określonej strony internetowej z 5000 podstronami.

Wysoka wiarygodność wyników nie jest tylko pożądana, ale w profesjonalnym środowisku zawsze istotna. Kto potrzebuje tej wiarygodności, musi mieć dostęp do offline-AIz mechanizmami kontroli jakości.

Sensible dane, tajemnice biznesowe lub informacje osobiste nie powinny być wprowadzane do systemu trzeciego pochodzenia amerykańskich dostawców. Po pierwsze, przepisy amerykańskie takie jak Cloud Act, FISA 702 czy Executive Order 12333 pozwalają amerykańskim władzom i służbom specjalnym na dostęp do tych danych. Po drugie, regularnie ujawniają się błędy bezpieczeństwa w popularnych chatbotach i systemach Microsoft (który posiada większość udziałów w ChatGPT!). Po trzecie, muszą być podjęte prawne oceny i regulacje, co odbywa się jedynie na papierze i wymaga znacznej ilości pracy.

Z użyciem inteligentnych rozwiązań opartych na sztucznej inteligencji przedsiębiorstwa i administracje mogą pokonać wyzwania.

Bardziej szybko, lepiej i lżejsze niż kiedykolwiek.

Jedna AI offline może trwać na zawsze. Dlaczego, pytają się niektórzy. Dlaczego ludzie studiują 5 lat? Aby lepiej być. Takie samo może osiągnąć AI offline. Tylko ta samodzielna poprawa nie trwa lat, ale często sekund lub kilka godzin.

Co jest możliwe przy użyciu offline AI?

Technika offline może wiele. Nawet więcej niż ChatGPT. Zależy tylko od przypadku zastosowania. Twoje dane, twój przypadk użycia. Nawet jeśli nie masz własnych danych, technika offline jest najczęściej lepsza.

W poprzednim rozdziale został już przedstawiony przykład tego rodzaju: pobieranie informacji z Internetu. Szukanie informacji w Internecie i ich następne przetworzenie jest również bardzo dobrym przypadkiem zastosowania offline AI. Na przykład można codziennie pobrać najnowsze wiadomości i automatycznie przeprowadzić ich analizę za pomocą własnej AI firmy.

Or jak by było z analizą rynku lub obserwacją konkurencji? Zwykłe chatbota nie idzie zbyt dobrze, bo dane trzeba najpierw zdobyć. Uzyskanie tych danych jest automatyzowalnie łatwe. Kto zrobi ten mały krok, wychodzi z komfortu sprzyjającego innowacjom. Za nagrodę otrzymuje maksymalną niezależność, pełną kontrolę i przede wszystkim lepsze wyniki!

Przykłady zastosowania AI w administracji:

Obywatele (lub klienci) chcą coś zapytać. Szukanie odpowiedniego formularza lub broszury może być optymalnie wspomagane przez AI. AI jest używana tutaj do semantycznej wyszukiwarki. Pracownicy administracji są w ten sposób wyzwoleni i mogą pracować bardziej produktywnie.

Jeśli arkusz informacyjny jest zbyt skomplikowany, AI może go w prostszej formie uściślić.

Jeśli formularz lub wniosek jest dostępny tylko w języku niemieckim lub angielskim, a mieszkaniec zrozumie tylko ukraiński, to dokument może być przetłumaczony za pomocą AI.

Podobne wnioski i formularze do znalezionego wniosku lub formularza można znaleźć przy pomocy AI. Także przepisy, wewnętrzne przepisy i orzeczenia dotyczące procedury można znaleźć. Pracownicy biurowi będą najlepiej wspierani.

Możliwość analogowego przetwarzania zgłoszeń szkodowych, zapytań od klientów lub biletów wsparcia.

W poprzednim wpisie wymieniono jeszcze dobre scenariusze dla offline KI.

Dowody na AI offline

Podczas Mainzer Kongresu Cyfrowego MADKON24 uczestnicy mojego warsztatu mogli żywo zaobserwować, jak offline-AIgeneruje wyniki. To miało miejsce na moim komputerze stacjonarnym i bez połączenia z Internetem.

To zdjęcie przedstawia wrażenia z MADKON24. Raport o wykładach i warsztatach, w tym moim, został opublikowany przez Petera Winningera na jego blogu KOBLENZ DIGITAL.

Na laptopie szczególnie pokazano:

• Generacja obrazu: Wprowadzenie tekstu (prompt) powoduje wygenerowanie wyjściowego obrazu
• Generator obrazów 2: Wprowadzony obraz służy jako wzór dla struktury obrazu. Z tego wzoru i promta powstaje nowy obraz.
• Optymalizacja prompu: Polecenie do generowania obrazów zostało automatycznie optymalizowane przy użyciu Offline-AI. Następnie zadanego polecenia optymalizowanego wprowadzono do generatora obrazu. Nowy obraz był bardziej atrakcyjny.
• Warianty prompu: Do prompu zostały automatycznie utworzone warianty z użyciem offline AI:
  • Wersje ogólne, które są podobne do oryginału
  • Warianty, które są bardzo podobne do oryginału
• Tłumaczenie: Optymalizowany automatycznie prompt i warianty automatycznie wygenerowane zostały
  • Tłumaczony, a mianowicie po
    • Angielski
    • Hiszpański
    • Ukraiński
• Sformułowany, a mianowicie
  • W języku prawniczym,
  • W języku pirackim
  • W języku, który rozumie pięcioletni dziecko
• Z pożytkiem dla zabawy zostało jeszcze stworzone baśnię z optymalizowanego promta, a mianowicie w dwóch wariantach

Cały ten proces przebiegał podczas warsztatów kilka razy, każdorazowo z inną wprowadzoną zmianą i każdorazowo z wieloma nowymi i dobrymi wynikami.

Do optymalizacji promta: Ta Samodzielna Poprawa możliwa jest przez to, że AI może ponownie wykorzystać swoje własne dane jako wejście. Co również działa bardzo dobrze, to sztuczne generowanie danych treningowych przez AI, z którymi ta sama AI zostaje przeszkolona. To jest tak, jakby człowiek mógł sam sobie napisać materiały do własnej edukacji i tym samym poprawić się.

Przykład wyniku tego opisującego generatore obrazów:

Zwiększenie rozmiaru tego już niezbyt małego zdjęcia jest możliwe za pomocą sztucznej inteligencji. Dzięki temu można uzyskać czterokrotne zwiększenie rozmiaru, bez sporych strat jakości.

Generator obrazu 2, o którym mowa wyżej, otrzymał jako wejście to zdjęcie i powinien z niego stworzyć dziwaka naukowca; zachowując strukturę zdjęcia. Oto wynik z Mainz:

Dodatkowo zostały warianty z termitami, tygrysem, często niesłusznie niepopularnymi politykami z USA, komandorem Dacie, wybitną damą i wieloma innymi przypisami przeliczone. Wszystko to w krótkim czasie na laptopie. Ogółem w krótkiej części czasu dwugodzinnego warsztatu powstało około 100 zdjęć. Jako kolejne przykłady został pokazany generujący BIldgenerator, któremu nauczono pewien styl. Tak więc można np. do każdego tekstu prompuje wygenerować zdjęcia w stylu instrukcji IKEA.

Jeśli liczyć liczbę tekstów wygenerowanych przez Offline-AI w warsztacie, można by osiągnąć kilka tysięcy tekstów. Były to optymalizowane prompsy tekstowe, tłumaczenia, uproszczenia językowe i wiele więcej. Na przykład z wiadomości wydobyto kluczowe słowa. Tak samo trafienia ze strony wyszukiwarki zostały sklasyfikowane za pomocą Offline-AI. W ten sposób można było rozróżnić artykuły informacyjne od reklam. Również pobieranie wyników z popularnej wyszukiwarki (nie Google) może być automatyzowana.

Możliwości offline AI, które są trudne do wyobrażenia:

Wprowadź dane, następnie pętla uczenia się maszynowego. AI generuje kolejne dane samodzielnie i produkuje w ten sposób coraz więcej i lepsze wyniki. Jeśli wyników jest za dużo, można je ocenić i przefiltrować przy pomocy tej samej AI.

Teraz możliwe, nawet na laptopie. Nie żądanie, ale rzeczywistość.

Był również Michael Westphal z TV1. On nagrywał moją sesję (bez mojej wiedzy) jako audio. Potem dostarczył mi Zapis transkrypcji, z Offline-KI. Chociaż używał tylko jednego (dobrego) mikrofonu z telefonu, wiele osób było w pokoju, pokój był duży i kilka osób mówiło, wynik był bardzo dobry. Wywiad nagrany po sesji przez niego i mnie zostanie opublikowany wkrótce. KI również jest używana w filmie, do transkrypcji i podtytułów.

Tekst Audiotranskrypcji (dla języka w długości dwóch godzin) przeszukiwałem za pomocą Offline-AI, aby go zsumować. Następnie została zsumowanie uproszczona językowo i wyekstrahowane istotne oświadczenia.

Oto Prawdopodobnie najważniejsze stwierdzenia mojego warsztatu z AI podczas Kongresu Cyfrowego w Moguncji:

• AI działa tak samo jak ludzkie mózg: inteligencja człowieka została odczytana.
• Nvidia jest jedynym dostępnym obecnie dostawcą kart graficznych do sztucznej inteligencji.
• Modele AI otwartej źródłowo są na wyciągnięcie ręki.
• Zastosowania, które dawniej nie były programowane w ogóle lub dopiero po miesiącach czy latach, dzięki AI mogą być dzisiaj rozwijane w najkrótszym czasie.
• AI umożliwia równoległe rozwiązywanie różnych problemów. To znacznie upraszcza złożoność i nakład pracy.
• AI może być stosowana równolegle do różnych typów danych. Typy danych to teksty, obrazy, sygnały dźwiękowe, dane z czujników, filmy itp.
• Aplikacje AI wymagają danych, aby dostarczyć sensowne wyniki.
• Pochodzenie tych danych może być:
  • Dane historyczne, takie jak dane dotyczące ofert zakończonych postępowań przetargowych
  • Dane z internetu (przez automatyczne wyszukiwanie)
  • Dane syntetyczne (Offline-AI używać)
  • Dane wytworzone przez ludzi.
• Pewne odpowiedzi może dostarczyć tylko takie AI, które jest kierowane. Tę kierownictwo można zautomatyzować.
• Wszystkie ogólne systemy AI, takie jak ChatGPT są jakościowo gorsze (i w krótkim okresie czasu najczęściej znacznie droższe) niż specjalistyczne systemy.
• Tylko kombinacja AI i klasycznej programacji daje najlepsze wyniki.
• Innowacja powstaje poprzez opuszczenie komfortu i rozwiązanie zależności.

Najlepsze rozwiązanie dziś jest tylko jednym krokiem odległym.

Nauka maszynowa offline ilustruje przykładami na zdjęciach

Obrazek na górze został wygenerowany przez offline AI. Jest on w kolekcji trzech zdjęć po lewej stronie:

Pierwsze (lewe) zdjęcie zostało stworzone przez offline AI na podstawie manualnej konfiguracji. Drugie zdjęcie zostało utworzone przez offline AI, która miała za zadanie dostosować oświetlenie i dodać więcej szczegółów do zdjęcia. Trzecie (prawe) zdjęcie zostało stworzone przez offline AI generującą obrazy. Wymagania były następujące:

• Obraz wejściowy (wcześniej generowany przez AI, ale każdy inny obraz jest również możliwy)
• Wprowadź: _Dodaj kilka bardzo małych robotów, które tańczą wokół lampy.

Weiterhin jest możliwe, aby AI sama została zapytana o inne prompty, które byłyby dobre. Trzeba oczywiście ustalić jakąś przesłankę. Na przykład: Chcę, aby obraz miał więcej szczegółów/ był bardziej interesujący / przypominał mi kawałek ciasta..

Jeśli chodzi o generatore obrazów offline, który używa się, można nawet z nim rozmawiać. Zaczyna się od tego, że tworzy się zdjęcie. Następnie mówi się: Ersetze den Mann durch eine Frau. Ten proces również można automatyzować przy pomocy krytyka AI. Na końcu powstają x zdjęcia. Można je przeglądać samemu lub pozwolić, aby AI przed filtrowała. AI może nauczyć się, które zdjęcia przypadają do gustu. Aby to osiągnąć, należy prostym sposobem oznaczyć każde zdjęcie jako "dobrze" lub "nie tak dobrze". AI uczy się następnie na podstawie kilku przykładów, co jest dla Ciebie ważne.

Oto tłumaczenie: Polecenie, które prowadziło do zdjęcia na stronie, zostało następująco zoptymalizowane przez AI:

• Original: problem solver system, intelligent, connections, bright colors
• AI-Version: Vibrant problem-solving AI, illuminating connections with radiant hues.

Po tym zostało wygenerowane zdjęcie przy użyciu wersji AI tego promta:

Teraz lokalna AI offline została nauczona dodania futurystycznego dinozaura:

Jak widać, zostały wygenerowane 3 warianty. Mogliśmy również wygenerować 1.000 lub 100.000 wariantów. Nie kosztuje nic. Dzięki offline AI do oceny zdjęć, najlepsze 10 zdjęć można wyfiltrować. Człowiek może je następnie obejrzeć i szybko znaleźć najlepsze zdjęcie.

Wnioski

Wady AI oferują się dla firm i urzędów przede wszystkim z offline AI.

Jasność jest dla wielu problemów znacznie lepsza. Udało się to osiągnąć za pomocą konwencjonalnej programowania dodatkowego, które powoduje niewiele trudności. Przykład: Najlepiej można sprawdzić, ile liter ma słowo, podczas gdy ChatGPT nie radzi sobie z tym.

Pełna kontrola danych jest kolejnym ważnym aspektem. Pozwólcie adwokatom wybranym przez what innego zajmować się, niż tylko pięknie mówić o tym, co nie jest piękne: ChatGPT jest niepewny, Microsoft jest niepewny (dowody w tym blogu oraz poniżej).

Najważniejsze jest strategiczne znaczenie Offline-AI. Może samodzielnie się ulepszać i samodzielnie krytykować. Wszystko to jest praktycznie możliwe tylko dlatego, że nie następują opłaty zależne od użytkowania. Sam organizacje o dużym budżecie chcieliby wiedzieć przedtem, co „to” kosztuje. Ale nikt nie wie tego wcześniej, jeśli jest to pytanie do głowy (AI). Pewnie jest to fakt, że bardzo często wezwanie do płatnej AI-Schnittstelle, najlepiej jeszcze z obszernymi dokumentami, szybko staje się drogie.

Innowacja powstaje poprzez usunięcie przeszkód. To samo jest możliwe przy użyciu Offline-AI. Ponieważ rozwój jest tak szybki, to ogromne zalety wynikają z tego, że nowe LLMs mogą być prosto wymieniane. Na przykład Open-Source modeli języka są tak dobre, że komercyjni dostawcy muszą się bardzo starannie ubrać, aby nie zamarznąć.

Jakie przypadki zastosowania mają Państwo w firmie lub urzędzie lub administracji? Z przyjemnością otrzymają Państwo pierwszą ocenę możliwości.