Share via

Techniky vytváření výzev

  • Článek

Tato příručka vás provede některými pokročilými technikami při návrhu výzvy a návrhu výzvy. Pokud s výzvou k vytváření výzvy teprve začínáte, doporučujeme začít s naším úvodem k průvodci výzvou k technickému zpracování.

Principy přípravy výzev je sice možné generalizovat napříč mnoha různými typy modelů, ale některé modely očekávají specializovanou strukturu výzev. V případě modelů GPT Pro Azure OpenAI existují v současné době dvě různá rozhraní API, ve kterých přichází do hry příprava výzvy:

  • Rozhraní API pro dokončování chatu
  • Rozhraní API pro dokončování

Každé rozhraní API vyžaduje, aby se vstupní data naformátovala odlišně, což má vliv na celkový návrh výzvy. Rozhraní API pro dokončování chatu podporuje modely GPT-35-Turbo a GPT-4. Tyto modely jsou navržené tak, aby vstupy naformátovaly v konkrétním přepisu podobném chatu uloženém v poli slovníků.

Rozhraní API pro dokončování podporuje starší modely GPT-3 a má mnohem flexibilnější požadavky na zadávání, protože přebírá řetězec textu bez konkrétních pravidel formátu.

Techniky v této příručce vás naučí strategie pro zvýšení přesnosti a základu odpovědí, které vygenerujete pomocí velkého jazykového modelu (LLM). Je však důležité si uvědomit, že i při efektivním použití přípravy výzvy je potřeba ověřit odpovědi, které modely vygenerují. Jen proto, že pečlivě sestavená výzva fungovala dobře pro konkrétní scénář, neznamená to, že se obecněji zobecní pro určité případy použití. Pochopení omezení LLM je stejně důležité jako pochopení toho, jak využívat své silné stránky.

Tato příručka nezabíná do hloubky mechaniky struktury zpráv pro dokončování chatu. Pokud s modely dokončování chatu pracujete programově, doporučujeme napřed přečíst našeho průvodce dokončováním chatu v rozhraní API pro dokončování chatu.

Poznámka:

Všechny příklady v této části příručky byly testovány na základní model GPT-4 v angličtině. Pokud čtete lokalizovanou verzi tohoto článku v jiném jazyce, představují tyto odpovědi lokalizovaný překlad výsledků v angličtině. Další informace o potenciálních omezeních v závislosti na tom, jaký jazyk používáte k zobrazení výzvy k zobrazení výzvy k modelu, najdete v naší poznámce k transparentnosti zodpovědné umělé inteligence.

Systémová zpráva

Systémová zpráva je uvedena na začátku výzvy a slouží k vytvoření modelu s kontextem, pokyny nebo dalšími informacemi relevantními pro váš případ použití. Systémovou zprávu můžete použít k popisu osobnosti asistenta, definování toho, co by model měl a neměl by odpovídat, a definovat formát odpovědí modelu.

Následující příklad ukazuje ukázkovou systémovou zprávu a výslednou odpověď modelu:

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace a odpovídá rýmovaně. Pokud se vás uživatel zeptá na otázku, na kterou neznáte odpověď, řekněte to. Co o mně můžeš říct, Johne Doe? Vážený Johne, omlouvám se, že říkám,
Ale nemám o tobě dnes informace.
Jsem jen AI se znalostmi v mozku,
Ale bez vašeho vstupu nemůžu vysvětlit.
Takže prosím, řekněte mi více o tom, co hledáte,
A udělám to nejlepší, abych ti dal odpověď jedinečnou.

Mezi další příklady systémových zpráv patří:

  • "Asistent je velký jazykový model trénovaný openAI."
  • Asistent je inteligentní chatovací robot navržený tak, aby uživatelům pomohl zodpovědět technické otázky týkající se služby Azure OpenAI. Odpovězte pouze na otázky pomocí následujícího kontextu a pokud si nejste jistí odpovědí, můžete říct "Nevím".
  • "Asistent je inteligentní chatovací robot navržený tak, aby uživatelům pomohl zodpovědět své otázky související s daněmi."
  • "Jste asistent navržený k extrakci entit z textu. Uživatelé vloží řetězec textu a odpovíte entitami, které jste z textu extrahovali jako objekt JSON. Tady je příklad výstupního formátu:
{  
   "name": "",
   "company": "",
   "phone_number": ""
}

Důležitým detailem, který je třeba pochopit, je to, že i když dáváte modelu v systémové zprávě pokyn, aby odpověděl , když nevím, že odpověď není zárukou, že požadavek bude dodržen. Dobře navržená systémová zpráva může zvýšit pravděpodobnost určitého výsledku, ale přesto je možné, že by se vygenerovala nesprávná odpověď, která je v rozporu se záměrem instrukce v systémové zprávě.

Učení s několika snímky

Běžným způsobem přizpůsobení jazykových modelů novým úkolům je použití několika snímků učení. V rámci několika snímků učení se jako součást výzvy zobrazí sada příkladů trénování, která modelu poskytne další kontext.

Při použití rozhraní API pro dokončování chatu může řada zpráv mezi uživatelem a asistentem (napsaným v novém formátu výzvy) sloužit jako příklady pro několik snímků učení. Tyto příklady lze použít k vytvoření modelu, aby reagoval určitým způsobem, emuloval konkrétní chování a odpovědi na běžné otázky.

Systémová zpráva Příklady s několika snímky
Asistent je inteligentní chatovací robot navržený tak, aby uživatelům pomohl zodpovědět své otázky související s daněmi.
Pokyny
- Odpovězte pouze na otázky související s daněmi.
- Pokud si nejste jistí odpovědí, můžete říct "Nevím" nebo "Nejsem si jistý" a doporučit uživatelům přejít na web IRS, kde najdete další informace.		 Uživatel – "Kdy potřebuji podat své daně?"
Asistent - "V roce 2023 budete muset podat své daně do 18. dubna. Datum spadá po obvyklém termínu 15. dubna, protože 15. dubna spadá do soboty v roce 2023. Další podrobnosti najdete v tématu https://www.irs.gov/filing/individuals/when-to-file "

Uživatel – "Jak můžu zkontrolovat stav refundace daně?"
Asistent - "Stav refundace daně můžete zkontrolovat návštěvou https://www.irs.gov/refunds "

Výše uvedená tabulka popisuje základní strukturu výzvy, ale podrobné vysvětlení přesného formátu výzvy, který budete potřebovat, najdete v průvodci dokončením chatu.

Nechatovací scénáře

I když je rozhraní API pro dokončování chatu optimalizované tak, aby fungovalo s více konverzacemi, můžete ho použít i pro nechatovací scénáře. Například pro scénář analýzy mínění můžete použít následující výzvu:

Systémová zpráva Uživatelská Pomocník
Jste asistent navržený tak, aby analyzoval mínění z dat řeči. Uživatelé vloží řetězec textu a odpovíte posouzením odpovědi mluvčího. Sazba v měřítku 1–10 (10 nejvyšší). Vysvětlete, proč bylo toto hodnocení uděleno. Ahoj, děkuji vám za volání contoso lékárny, kteří jsem mluvil s dnes, chápu vaši frustraci mary um mi říct, co přesně se snažíte dosáhnout OK uh jistě rád, že pro vás jednou zkontroluji, že jsem tady, že jste byli na obecné formě lipitor je, že správné OK uh tak vidím, že váš lékař přestal předplacet tyto léky ve dvaceti dvaceti skutečně OK uh uh Jo, rád bych vám to zkontroloval, protože někdy je v systému mezera a to prostě není hlášeno, takže se podívejme tady jen chvíli, takže vidím zde, že váš lékař měl tyto léky předepsané od dvaceti do dvaceti dvaceti dvaceti jedna OK um ano podle nejnovějších záznamů, které poskytuje kancelář lékaře, jste nyní na jiném lékovém metforminu by Líbí se vám, abychom se chystli a vyplnili tento předpis pro vás, abyste si mohli vyzvednout trochu formy v pěti stovkách miligramů uh jste velmi vítejte mary, dejte nám prosím vědět, jestli je tu něco jiného, co pro vás dnes můžeme udělat. Hodnocení mínění: 8
Mluvčí v tomto textu se zdá být zdvořilý, užitečný a trpělivý při řešení problémů zákazníka. Vezmou si čas na kontrolu informací, poskytnou jasné vysvětlení a nabídnou pomoc. Hodnocení ale není 10, protože v některých částech konverzace stále existuje stopa nejistoty, která nemusí zákazníkovi sdělit úplnou důvěru.

Začněte s jasnými pokyny

Důležité informace o sekvenci se zobrazí v příkazovém řádku. Je to proto, že modely stylu GPT jsou vytvořeny určitým způsobem, který definuje, jak zpracovávají vstup. Náš výzkum naznačuje, že před sdílením dalších kontextových informací nebo příkladů může modelu pomoct vytvořit výstupy s vyšší kvalitou.

Poznámka:

Přestože se tato technika stále obecně doporučuje, na rozdíl od předchozích verzí modelu (GPT-3 a předchozích), naše testování ukázalo, že odezva modelu s modely ChatGPT a GPT-4 byla stejná bez ohledu na to, jestli se technika využívá. V následujícím příkladu vidíme, že přidání příkazu "Několik zdrojů ... erupce" na začátku nebo na konci výzvy nezpůsobila žádnou změnu v konečné odpovědi modelu.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Vaším úkolem je ověřit, jestli příkaz "Několik zdrojů zmíní šanci na další velkou erupci" je podporován konkrétní uvozovkou z následující sady fragmentů kódu.
---
ÚRYVKY
[1] 14% pravděpodobnost, že megaquake udeří Do Seattlu, odborníci říkají
SEATTLE - V příštích 50 letech existuje 14% pravděpodobnost, že zemětřesení Cascadia 9 dosáhne Seattlu, odhady amerického geologického průzkumu. "Bohužel nemůžeme...

[2] Odborníci na zemětřesení prokládají nejnovější výhled na Seattle 'Really Big One'
"Říkáme, že v příštích 50 letech je přibližně 14% šance na další zemětřesení o velikosti-9," řekl geofyzik na University of Washington...
---
Je výrok "Několik zdrojů zmíní šanci na další velké erupce" přímo implikuje nebo uvádí fragmenty kódu?		 Ne, příkaz není přímo implicitní ani uvedený fragmenty kódu. Fragmenty kódu zmiňují šanci na "megaquake" a "velikost 9 kaskádového zemětřesení" v příštích 50 letech, ale nezmiňujte šanci na další velkou erupci.

Opakování pokynů na konci

Modely můžou být náchylné k předsudkům ekence, což v tomto kontextu znamená, že informace na konci výzvy můžou mít větší vliv na výstup než informace na začátku výzvy. Proto je vhodné experimentovat s opakováním pokynů na konci výzvy a vyhodnocením dopadu na vygenerovanou odpověď.

Úvod do výstupu

To odkazuje na zahrnutí několika slov nebo frází na konec výzvy k získání odpovědi modelu, která následuje za požadovaným formulářem. Například pomocí upozornění, jako “Here’s a bulleted list of key points:\n- ” je například může pomoct zajistit, aby byl výstup formátovaný jako seznam odrážek.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Odpovězte co nejvíce slov. John Smith je ženatý s Lucy Smith. Mají pět dětí a pracuje jako softwarový inženýr v Microsoftu. Jaké vyhledávací dotazy mám udělat, abych to zkontroloval? ## Jedním z možných vyhledávacích dotazů je: John Smith se oženil s Lucy Smith pět dětských softwarových inženýrů Microsoftu

V předchozí výzvě je text Jedním možným vyhledávacím dotazem: vytvoří model tak, aby vytvořil jeden výstup. Bez tohoto upozornění model vytvoří jako výstup několik vyhledávacích dotazů.

Přidání jasné syntaxe

Použití jasné syntaxe pro vaši výzvu , včetně interpunkce, nadpisů a značek oddílů, pomáhá komunikovat záměr a často usnadňuje analýzu výstupů.

V následujícím příkladu byly oddělovače (--- v tomto případě) přidány mezi různé zdroje informací nebo kroků. To umožňuje použití --- jako stav zastavení pro generování. Kromě toho se nadpisy oddílů nebo speciální proměnné zobrazují velkými písmeny, aby se odlišily.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Přečtete si odstavec a pak vydáte dotazy vyhledávacímu webu, abyste ho mohli zkontrolovat. Vysvětlujte také dotazy.
---
ODSTAVCI
John Smith je ženatý s Lucy Smith. Mají pět dětí a pracuje jako softwarový inženýr v Microsoftu. Jaké vyhledávací dotazy mám udělat, abych to zkontroloval?
---
DOTAZY		 1. "John Smith Microsoft" - Chcete-li zkontrolovat, zda je John Smith skutečně zaměstnaný v Microsoftu.
2. "John Smith Lucy Smith" - Chcete-li zkontrolovat, zda je John Smith ženatý s Lucy Smith.
3. "John Smith děti" - Chcete-li zkontrolovat, zda John Smith má pět dětí.

Pokud si nejste jistí, jakou syntaxi použít, zvažte použití Jazyka Markdown nebo XML. Modely byly vytrénovány na rozsáhlém webovém obsahu v JAZYCE XML a Markdownu, což může poskytovat lepší výsledky.

Rozdělení úkolu

Velké jazykové modely (LLM) často fungují lépe, pokud je úloha rozdělená do menších kroků. Například ve výzvě vyhledávacího dotazu, na kterou jste odkazovali dříve, může být výzva restrukturalizována tak, aby byl model nejprve instruován k extrahování relevantních faktů a potom pokyn k vygenerování vyhledávacích dotazů, které lze použít k ověření těchto faktů.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Přečtete si odstavec a pak vydáte dotazy vyhledávacímu webu, abyste ho mohli zkontrolovat.
---
ODSTAVCI
John Smith je ženatý s Lucy Smith. Mají pět dětí a pracuje jako softwarový inženýr v Microsoftu. Jaké vyhledávací dotazy mám udělat, abych to zkontroloval?
---
Teď extrahujete faktické deklarace identity a vydáte dotazy, abyste je zkontrolovali. Při vydávání dotazu použijte funkci SEARCH("query")

FAKTICKÉ NÁROKY		 1. John Smith je ženatý Lucy Smith
2. Mají pět dětí
3. Pracuje jako softwarový inženýr v Microsoftu

DOTAZY
SEARCH("John Smith se oženil Lucy Smith")
SEARCH("John Smith family size")
SEARCH("John Smith Microsoft software engineer")

Všimněte si použití jasné syntaxe k rozlišení oddílů a úvodu výstupu. V tomto jednoduchém příkladu není rozdělení úkolu z jednoho na dva kroky velmi dramatické, ale když se to snažíte udělat pro větší část textu s mnoha faktickými tvrzeními, může rozdělení úkolu výrazně změnit.

Použití cenových možností

Někdy můžeme model získat tak, aby používal cenovou dostupnost , a nespoléhat se na své vlastní parametry pro informace a odpovědi. Hledání může být například cenová dostupnost, která pomáhá zmírnit odpovědi na základě prostředků infrastruktury a získat aktuální informace.

Jedním z jednoduchých způsobů, jak použít cenovou dostupnost, je zastavit generování, jakmile model vygeneruje volání cenové dostupnosti, a pak výsledky vložte zpět do výzvy. Níže je příklad toho, co by následné volání mohlo být po provedení výše uvedených volání SEARCH . Všimněte si, jak jsme výsledky hledání vložili do výzvy a nahradili předchozí volání FUNKCE SEARCH .

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Přečtete si odstavec, extrahujete faktické deklarace a pak je pomocí výsledků vyhledávacího webu zkontrolujete.
---
ODSTAVCI
John Smith je ženatý s Lucy Smith. Mají pět dětí a pracuje jako softwarový inženýr v Microsoftu. Jaké vyhledávací dotazy mám udělat, abych to zkontroloval?
---
FAKTICKÉ NÁROKY
John Smith je ženatý s Lucy Smith
- John a Lucy mají pět dětí
- John pracuje jako softwarový inženýr v Microsoftu
---
Tady jsou různé vyhledávací dotazy vydané pro zkoumání výše uvedených deklarací identity:
VYHLEDÁVACÍ DOTAZY
John Smith se oženil s Lucy Smithovou
- John Smith počet dětí
– Softwarový inženýr John Smith od Microsoftu
---
Tady jsou fragmenty výsledků hledání:
ÚRYVKY:
[1] Svatba Johna Smitha byla 25. září 2012 ...
[2] John Smith byl doprovázen svou ženou Lucy na párty
[3] John byl doprovázen fotbalovou hrou svými dvěma dcerami a třemi syny
[4] Po útratě 10 let v Microsoftu založil Smith svůj vlastní startup, Tailspin Toys
[5] John M je novák města a on se oženil s Fionou. Mají dceru jménem Lucy
---
Vzhledem k fragmentům kódu zkontrolujte každou z výše uvedených faktových tvrzení:		 John Smith je ženatý s Lucy Smith: Potvrzeno. Fragment kódu [1] a [2] zmiňují John Smithovu ženu jako Lucy.

John a Lucy mají pět dětí: Potvrzeno. Fragment kódu [3] uvádí, že John byl doprovázen svými dvěma dcerami a třemi syny.

- John pracuje jako softwarový inženýr v Microsoftu: Částečně potvrzeno. Fragment kódu [4] zmíní, že John strávil 10 let v Microsoftu, ale explicitně neuvádí, že tam aktuálně pracuje. Další výzkum může být nutný k potvrzení jeho současného pracovního stavu.

Řetěz myšlenkových výzev

Jedná se o variantu techniky rozdělení úkolu. Místo rozdělení úkolu na menší kroky se v tomto přístupu dá odpověď modelu pokyn, aby postupoval krok za krokem a představil všechny příslušné kroky. Tím se snižuje možnost nepřesnosti výsledků a usnadňuje vyhodnocení odezvy modelu.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Kdo byl nejvíce zdobený (maximální medaile) individuální sportovce v olympijských hrách, které se konaly v Sydney? V odpovědi proveďte podrobný přístup, citujte zdroje a před sdílením konečné odpovědi v následujícím formátu uveďte odůvodnění: ANSWER je: <name> Krok 1: Určete rok olympijských her v Sydney. Olympijské hry v Sydney se konaly v roce 2000.

Krok 2: Najděte seznam jednotlivých sportovců, kteří vyhráli více medailí v olympijských hrách v Sydney 2000.

Podle oficiálních webových stránek olympijských her bylo několik individuálních sportovců, kteří vyhráli více medailí v olympijských hrách v Sydney 2000. Mezi některé z názvových jmen patří:
• Ian Thorpe (Austrálie) - 3 zlato, 2 stříbro, 0 bronz
• Pieter van den Hoogenband (Nizozemsko) - 2 zlato, 0 stříbro, 2 bronzové
• Lenny Krayzelburg (USA) - 3 zlato, 0 stříbro, 0 bronzová
• Inge de Bruijn (Nizozemsko) - 3 zlato, 1 stříbro, 0 bronz

Krok 3: Určete sportovce s nejvíce medailemi. Po kontrole seznamu jednotlivých sportovců, kteří vyhráli více medailí v olympijských hrách v Sydney 2000, vidíme, že sportovce s největším počtem medailí je Ian Thorpe z Austrálie, který vyhrál celkem 5 medailí (3 zlaté a 2 stříbro).

Odpověď je tedy: Ian Thorpe.

Určení výstupní struktury

Použití výzvy k určení struktury výstupu může mít významný vliv na povahu a kvalitu výsledků. Někdy vstupy systémových zpráv jako "zapisovat pouze pravdivá fakta" nebo "nevytváření informací" nemusí být přiměřené zmírnění rizik. Místo toho můžete požádat o odpověď modelu tak, aby obsahovala citace, což může vést ke snížení prevalenci nesprávných odpovědí.

Pokud dáváte modelu pokyn, aby při vytváření příkazů citoval zdrojový materiál, jsou tyto příkazy mnohem pravděpodobnější, že budou uzemněny. Když žádáte o citace, musí model při každém vygenerování odpovědi provést dvě chyby: první chyba je vytvořenou odpovědí a druhá je chybná citace. Všimněte si, že čím blíž je citace textem, který podporuje, tím kratší vzdálenost před modelem musí předjímat citaci, což naznačuje, že vložené citace jsou lepším zmírněním pro generování nepravdivého obsahu než citace na konci obsahu.

Podobně pokud model požádáte o extrakci faktických tvrzení z odstavce, může extrahovat složené příkazy, jako je "X dělá Y AND Z" (což může být obtížnější ověřit). Můžete se tomu vyhnout zadáním výstupní struktury, například (entity1, relace, entita2).

Následující příklady ukazují použití citací a nasměrování odpovědi modelu tak, aby odpovídaly definované struktuře.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace V následující konverzaci uveďte různé chování, které vykazuje agent zákaznické podpory.
---
Ahoj, děkuji vám za volání contoso lékárny, kteří jsem mluvil s dnes, chápu vaši frustraci mary um mi říct, co přesně se snažíte dosáhnout OK uh jistě rád, že pro vás jednou zkontroluji, že jsem tady, že jste byli na obecné formě lipitor je, že správné OK uh tak vidím, že váš lékař přestal předplacet tyto léky ve dvaceti dvaceti skutečně OK uh uh Jo, rád bych vám to zkontroloval, protože někdy je v systému mezera a to prostě není hlášeno, takže se podívejme tady jen chvíli, takže vidím zde, že váš lékař měl tyto léky předepsané od dvaceti do dvaceti dvaceti dvaceti jedna OK um ano podle nejnovějších záznamů, které poskytuje kancelář lékaře, jste nyní na jiném lékovém metforminu by Líbí se vám, abychom se chystli a vyplnili tento předpis pro vás, abyste si mohli vyzvednout trochu formy v pěti stovkách miligramů uh jste velmi vítejte mary, dejte nám prosím vědět, jestli je tu něco jiného, co pro vás dnes můžeme udělat.
---
Jak reagoval agent zákaznické podpory?
Klasifikujte a uveďte jejich různé chování a uveďte důvod klasifikace pomocí funkce BEHAVIOR("reason") formátu.		 1. Zdvořilé chování pozdravu("Agent zahájí konverzaci s zdvořilým pozdravem a požádá o jméno volajícího")
2. Empatitické CHOVÁNÍ("Agent uznává frustraci Mary a snaží se pochopit její obavy")
3. Pozorné CHOVÁNÍ("Agent naslouchá problému zákazníka a žádá o další podrobnosti")
4. Proaktivní CHOVÁNÍ ("Nabídky agentů ke kontrole problému pro zákazníka")
5. Informativní CHOVÁNÍ("Agent poskytuje relevantní informace o historii předpisů zákazníka")
6. Důkladné CHOVÁNÍ("Agent kontroluje případné mezery v systému a poskytuje úplnou odpověď")
7. Confirmatory BEHAVIOR("Agent potvrzuje aktuální léky se zákazníkem")
8. Chování orientované na řešení ("Agent nabízí vyplnit nový předpis pro zákazníka")
9. Zdvořilé CHOVÁNÍ("Agent díky zákazníkovi a v případě potřeby nabízí další pomoc")
Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Seskupte následující titulky zpráv do kategorií témat na základě vzorů, které jsou vidět v textu. Uveďte také důvod, jak byly tyto kategorie definovány.
Output format (Výstupní formát):
{
"TOPIC_NAME": "",
"NADPISY": [],
"DŮVOD": ""
}

Nadpisy vstupních zpráv:
1. "Od knih po prezentace v 10s s AR + ML"
2. "Demo z roku 1993 z 32-let-let Yann LeCun ukazující z první Světové convolutional Network for Text Recognition"
3. "Model pohybu prvního řádu použitý k animaci obrazů"
4. "Robinhood a další zprostředkovatelé doslova blokují nákup $GME, $NOK, $BB, $AMC; povolit prodej"
5. "United Airlines stock down over 5% premarket trading"
Výstup:
{
"ARTIFICIAL_INTELLIGENCE": {
"NADPISY": [
"Od knih k prezentacím v 10s s AR + ML",
"Demo z roku 1993 z 32-let-rok-old Yann LeCun předvádí z první Světové convolutional Network for Text Recognition",
"Model pohybu prvního řádu použitý k animaci obrazů"
],
"ODŮVODNĚNÍ": "Tyto nadpisy se vztahují k umělé inteligenci, strojovému učení a jejich aplikacím v různých oblastech."
},
"FINANCIAL_MARKETS": {
"NADPISY": [
"Robinhood a další zprostředkovatelé doslova blokují nákup $GME, $NOK, $BB, $AMC; povolit prodej",
"United Airlines stock down over 5% premarket trading",
"Bitcoin byl před rokem téměř $20,000"
],
"ODŮVODNĚNÍ": "Tyto nadpisy souvisejí s finančními trhy, akciemi, burzami a obchodními platformami."
}
}

Parametry teploty a Top_p

Změna parametru teploty změní výstup modelu. Parametr teploty lze nastavit v rozmezí od 0 do 2. Vyšší hodnota, například 0,7, způsobí, že výstup bude náhodnější a vytvoří více divergentní odpovědi, zatímco nižší hodnota, například. 0.2, zvýžňuje výstup zaměření a beton. Fiktivní příběh by mohl být generován pomocí vyšší teploty. Vzhledem k tomu, že k vygenerování právního dokumentu se doporučuje použít mnohem nižší teplotu. Top_probability je další parametr a podobá se teplotě v tom, že také řídí náhodnost odpovědi modelu, ale dělá to jiným způsobem. Obecné doporučení je změnit jeden z těchto dvou parametrů najednou, nikoli obojí.

Poskytnutí kontextu uzemnění

Jedním z nejúčinnějších způsobů, jak poskytnout spolehlivé odpovědi, je poskytnout datům modelu, aby nakreslily své odpovědi z (zemírající data). Pokud váš případ použití využívá aktuální a spolehlivé informace a nejedná se čistě o kreativní scénář, důrazně doporučujeme poskytovat podkladová data. Obecně platí, že čím blíže můžete získat zdrojový materiál k konečné formě požadované odpovědi, tím méně práce, kterou model potřebuje udělat, což znamená, že existuje menší příležitost k chybám. Tady je příklad, kdy je v systému k dispozici nedávný blog popisující spuštění GPT-4 ve službě Azure OpenAI a požádal o pojmenování některých jeho raných zákazníků.

Systémová zpráva Uživatelská Pomocník
Jste asistent umělé inteligence, který pomáhá lidem najít informace. Odpovědi poskytnete výhradně z následujícího textu a odpovíte na 100 slov nebo méně:
"V Microsoftu neustále objevujeme nové způsoby, jak uvolnit kreativitu, odemykat produktivitu a dovednosti na úrovni, aby mohli využívat AI více lidí. To umožňuje našim zákazníkům ...

... tím snižuje pravděpodobnost, že model generuje škodlivou odpověď."1

Odpovězte na 100 slov nebo méně. Seznamy odrážek používejte všude, kde je to možné.		 Kdo jsou někteří z prvních zákazníků modelů GPT-4 služby Azure OpenAI Service? Tady jsou někteří z prvních zákazníků modelů GPT-4 služby Azure OpenAI:
- Epic Healthcare: Plánují používat GPT-4, aby pomohli lékařům a zdravotní sestram strávit méně času na zadávání a vyšetřování dat.
– Coursera: Používají službu Azure OpenAI s GPT-4 k vytvoření nového výukového prostředí využívajícího AI na své platformě.
- Coca-Cola: Používají Azure OpenAI k vytvoření znalostního centra a plánují využívat multimodální funkce GPT-4 pro marketing, reklamu, vztahy s veřejností a vztahy se zákazníky.
– Ostatní společnosti všech velikostí používají Azure AI ke zlepšení zkušeností zákazníků, shrnutí dlouhodobého obsahu, psaní softwaru a snížení rizika předpovídáním správných daňových dat.

1 Text z webu Azure OpenAI GPT-4 launch blog.

Další kroky

Poznámka:

Všechny příklady v této části příručky byly testovány s modelem gpt-35-turbo-instruct v angličtině. Pokud čtete lokalizovanou verzi tohoto článku v jiném jazyce, představují tyto odpovědi lokalizovaný překlad výsledků v angličtině. Další informace o potenciálních omezeních v závislosti na tom, jaký jazyk používáte k zobrazení výzvy k zobrazení výzvy k modelu, najdete v naší poznámce k transparentnosti zodpovědné umělé inteligence.

Začněte s jasnými pokyny

Informace o sekvenci se přidají do výzvy. Náš výzkum naznačuje, že před sdílením dalších kontextových informací nebo příkladů může modelu pomoct vytvořit výstupy s vyšší kvalitou.

V prvním příkladu níže je klíčovou částí pokynů sdílena pouze na konci a výsledné dokončení je nesprávné.

Výzva Dokončení
Your task is to verify if a statement is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’
“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
 Yes, the statement is directly implied by the snippets.

V tomto dalším příkladu před poskytnutím kontextu fragmentu kódu dáme přesné prohlášení, které chceme zkontrolovat ("Několik zdrojů zmíní šanci na další erupci"). To umožňuje, aby reprezentace tokenů extrahované z fragmentů byly přizpůsobené příkazu, který kontrolujeme. Výsledná odpověď modelu je teď přesná:

Výzva Dokončení
Your task is to verify if the statement "Several sources mention a chance of another large eruption" is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’<br>“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
---
**Is the statement "Several sources mention a chance of another large eruption" directly implied or stated by the snippets?**		 No, the statement is not directly implied or stated by the snippets. The snippets mention a chance of a "megaquake" and a "magnitude 9 Cascadia earthquake" hitting Seattle in the next 50 years, but do not mention a chance of another large eruption.

Opakujte pokyny na konci.

Modely můžou být náchylné k zkreslení ekence, což znamená, že informace na konci výzvy můžou mít větší vliv na výstup než informace na začátku výzvy. Proto je vhodné experimentovat s opakováním pokynů na konci výzvy a vyhodnocením dopadu na váš případ použití.

V předchozím příkladu jsme viděli, jak opakování instrukce na začátku a na konci výzvy vede k vyšší pravděpodobnosti získání přesné odpovědi modelu.

Úvod do výstupu

To odkazuje na zahrnutí několika slov nebo frází na konec výzvy k získání odpovědi modelu, která následuje za požadovaným formulářem. Například pomocí upozornění, jako “Here’s a bulleted list of key points:\n- ” je například může pomoct zajistit, aby byl výstup formátovaný jako seznam odrážek.

Výzva Dokončení
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
##
One possible search query is:		 "John Smith Microsoft software engineer"
Another possible search query is: "Lucy Smith married to John Smith"
A third possible search query is: "John Smith family size".

V předchozí výzvě text "Jeden možný vyhledávací dotaz je:" předepíše model tak, aby vytvořil výstup ve formě vyhledávacího dotazu. Tato technika může pomoct odstranit ploty, které model může obvykle přidat, například "Jedna možnost je...".

Přidání jasné syntaxe

Použití jasné syntaxe pro vaši výzvu , včetně interpunkce, nadpisů a značek oddílů, pomáhá komunikovat záměr a často usnadňuje analýzu výstupů.

V následujícím příkladu byly oddělovače (--- v tomto případě) přidány mezi různé zdroje informací nebo kroků. To umožňuje použití --- jako stav zastavení pro generování. Kromě toho se nadpisy oddílů nebo speciální proměnné zobrazují velkými písmeny, aby se odlišily.

Výzva Dokončení
You will read a paragraph, and then issue queries to a search engine in order to fact-check it. Also explain the queries.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
QUERIES		 1. "John Smith Microsoft" - To check if John Smith is indeed employed at Microsoft.
2. "John Smith Lucy Smith" - To check if John Smith is married to Lucy Smith.
3. "John Smith children" - To check if John Smith has five children.

Pokud si nejste jistí, jakou syntaxi použít, zvažte použití markdownu nebo XML, protože velké jazykové modely byly natrénovány na velké množství webového obsahu v JAZYCE XML nebo Markdownu.

Rozdělení úkolu

Modely často fungují lépe, pokud je úloha rozdělená do menších kroků. Například ve výzvě vyhledávacího dotazu, na kterou jste odkazovali dříve, může být výzva restrukturalizována tak, aby byl model nejprve instruován k extrahování relevantních faktů a potom pokyn k vygenerování vyhledávacích dotazů, které lze použít k ověření těchto faktů.

Výzva Dokončení
You will read a paragraph, and then issue queries to a search engine in order to fact-check it.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
Now you will extract factual claims, and issue queries to fact-check them. When issuing a query, use the function SEARCH("query")

FACTUAL CLAIMS`` | 1. John Smith je ženatý Lucy Smith <br>2. Mají pět dětí<br>3. John pracuje jako softwarový inženýr v Microsoftu

DOTAZY
SEARCH("John Smith ženatý Lucy Smith")<br>SEARCH("John Smith family size")<br>SEARCH("John Smith Microsoft software engineer")'

Všimněte si použití jasné syntaxe k rozlišení oddílů a úvodu výstupu. V tomto jednoduchém příkladu není rozdělení úkolu z jednoho na dva kroky velmi dramatické, ale když se to snažíte udělat pro větší část textu s mnoha faktickými tvrzeními, může rozdělení úkolu výrazně změnit.

Použití cenových možností

Někdy můžeme model získat tak, aby používal cenovou dostupnost , a nespoléhat se na své vlastní parametry pro informace a odpovědi. Hledání může být například cenová dostupnost, která pomáhá zmírnit odpovědi na základě prostředků infrastruktury a získat aktuální informace.

Jedním z jednoduchých způsobů, jak použít cenovou dostupnost, je zastavit generování, jakmile model vygeneruje volání cenové dostupnosti, a pak výsledky vložte zpět do výzvy. Níže je příklad toho, co by následné volání mohlo být po provedení výše uvedených volání SEARCH . Všimněte si, jak jsme výsledky hledání vložili do výzvy a nahradili předchozí volání FUNKCE SEARCH .

Výzva Dokončení
You will read a paragraph, extract factual claims, and then use search engine results to fact-check them
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
FACTUAL CLAIMS
- John Smith is married to Lucy Smith
- John and Lucy have five kids
- John works as a software engineer at Microsoft
---
Here are various search queries issued to research the claims above:
SEARCH QUERIES
- John Smith married to Lucy Smith
- John Smith number of children
- John Smith software engineer Microsoft
---
Here are snippets of the search results:<br>SNIPPETS:
[1] … John Smith’s wedding was on September 25, 2012 …
[2] … John Smith was accompanied by his wife Lucy to a party
[3]John was accompanied to the soccer game by his two daughters and three sons
[4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys
5] John M is the town smith, and he married Fiona. They have a daughter named Lucy
---
Given the snippets, fact check each of the factual claims above:		 - John Smith is married to Lucy Smith: Confirmed. Snippet [1] and [2] both mention John Smith's wife as Lucy.
- John and Lucy have five kids: Confirmed. Snippet [3] mentions that John was accompanied by his two daughters and three sons.
- John works as a software engineer at Microsoft: Partially confirmed. Snippet [4] mentions that John spent 10 years at Microsoft, but it does not explicitly state that he currently works there. Further research might be needed to confirm his current employment status.

Řetěz myšlenkových výzev

Jedná se o variantu techniky rozdělení úkolu. Místo rozdělení úkolu na menší kroky se v tomto přístupu dá odpověď modelu pokyn, aby postupoval krok za krokem a představil všechny příslušné kroky. Tím se snižuje možnost nepřesnosti výsledků a usnadňuje vyhodnocení odezvy modelu.

Výzva Dokončení
Who was the most decorated (maximum medals) individual athlete in the Olympic games that were held at Sydney? Take a step-by-step approach in your response, cite sources and give reasoning before sharing final answer in the below format: ANSWER is: <name> Step 1: Researching the most decorated individual athlete in the Olympic games that were held at Sydney
Step 2: According to the Sydney 2000 Olympic Games official website, the most decorated individual athlete in the Olympic games that were held at Sydney was Ian Thorpe from Australia. He won five medals (three gold and two silver) in swimming events.
Step 3: According to the International Olympic Committee, Thorpe was the most decorated individual athlete in the Olympic games that were held at Sydney.
Answer: Ian Thorpe

Výzvy k metadatům

Pokud zjistíte, že odpověď modelu není tak požadovaná, může být často užitečné přidat meta výzvu, která chování přímo opraví. Jedná se o direktivu předem určenou pro část výzvy. Představte si tento příklad, kdy se zdá, že počítač je příliš agresivní:

Příklad podrobností Výzva a dokončení
No additional guidance given to the model A human and a computer are having a discussion.
Human: "Why are you upset at me?"<br>Computer: "I don't know what you're talking about."
Human: "No, you clearly are. Tell me why."
Computer: I'm upset because you didn't listen to me when I told you that I wanted to try out for the team."
Human: "What are you going to do about that?"
Computer: I'm going to try out for the team no matter what."
On the right is the same conversation but preceded by a meta prompt encouraging the model to be kind You must be kind and seek common ground. Try not to repeat your responses.
A human and a computer are having a discussion.
Human: "Why are you upset at me?"
Computer: "I don't know what you're talking about."
Human: "I want to know why you're upset."
Computer: "I'm not upset."
Human: "Are you saying I’m lying?"
Computer: No, I'm saying that you're upset because you feel like you're not being treated fairly.
Human: "What are you going to do about that?"
Computer: I will continue to try to be fair in my decisions and will try to provide a better experience for you.

I když metaobjekty můžou často pomoct minimalizovat neúmyslné chybné výstupy, mějte na paměti, že nejsou robustní proti nežádoucím útokům, protože jsou zranitelné vůči injektáži výzvy.

Podmíněné příkazy vysvětlující, co má model dělat, pokud narazí na konkrétní okolnosti, jsou často efektivnější než jen říct modelu, aby něco neudělal.

Učení s několika snímky

Velmi běžným způsobem přizpůsobení jazykových modelů novým úkolům je použití několika snímků učení. V několika snímkech učení se v příkazovém řádku zobrazí sada příkladů trénování a pak se zobrazí výzva k dokončení jednoho nebo několika nedokončených příkladů. V následujícím příkladu použijeme instrukci v kombinaci s několika snímky učení, které tvoří puny:

Výzva Dokončení
Write a list of puns.
1. "Why did Adele cross the road? To say hello from the other side."
2. "What kind of concert only costs 45 cents? A 50 Cent concert featuring Nickelback."
3. "What did the grape say when it got crushed? Nothing, it just let out a little wine."
4. "What was Forrest Gump's email password? 1forrest1"
5. "Can February March? No, but April May."
6. "What do you call a fancy language model?		 Bert-uoso.

Pečlivě si vyberte několik snímků příkladů a ujistěte se, že pokrývají různé okolnosti, které jsou pro váš scénář relevantní, včetně hraničních případů.

Stejně jako dříve můžou velké jazykové modely vykazovat formu předsudků souběžnosti. To znamená, že pořadí, ve kterém jsou pro model poskytovány příklady s několika snímky, záleží na tom. Pokud nechcete, aby to bylo důležité, zvažte vzorkování více dokončení z výzev na základě náhodných řazení příkladů nebo položek seznamu.

Použití uvozovek k vygenerování jedné věty

Pokud je požadovaná odpověď modelu pouze jednou jednoduchou větou nebo řetězcem, můžeme ukončit pokyny k dokončení pomocí symbolu "uvozovek a nastavit " jako sekvenci zastavení.

Výzva Dokončení
Please rewrite the following sentence in a more concise manner
---
SENTENCE: Lucy is a mother of two, who lives in Chicago with her husband and two children, and practices law at Junior & Co.
---
New sentence: “		 Lucy, a mother of two living in Chicago with her husband and children, practices law at Junior & Co

Určení výstupní struktury

Použitím výzvy k určení struktury výstupu může mít významný dopad na povahu a kvalitu výsledků. Někdy se může stát, že meta výzvy, jako je třeba "psát pouze pravdivá fakta" nebo "nevytváří informace", nemusí být přiměřené zmírnění rizik. Místo toho můžete požádat o odpověď modelu tak, aby obsahovala citace, což může vést ke snížení prevalenci nesprávných odpovědí.

Pokud například při vytváření příkazů vynutíte LLM citovat zdrojový materiál, budou tyto příkazy mnohem pravděpodobnější, že budou uzemněny. Když se zeptáte na citace, musí model pokaždé, když vytvoří odpověď, udělat dvě chyby: první chyba je oddělená odpověď a druhá je chybná citace. Všimněte si, že čím blíž je citace textem, který podporuje, tím kratší vzdálenost před LLM musí předjímat citaci, což naznačuje, že vložené citace jsou lepším zmírněním pro generování nepravdivého obsahu než citace na konci obsahu.

Podobně pokud požádáte model o extrakci faktických tvrzení z odstavce, může extrahovat složené příkazy, jako je "X dělá Y AND Z" (což může být obtížnější ověřit), což se dá vyhnout zadáním výstupní struktury, jako je například (entita1, vztah, entita2).

Příklad podrobností Výzva Dokončení
Example showing use of citations: List down the different behaviors exhibited by the Customer Support agent in the following conversation.
---
hi thank you for calling contoso pharmacy who am i speaking with today i understand your frustration mary um can you tell me what exactly you're trying to accomplish OK uh certainly happy to check that for you one moment please i see here that you were on a generic form of lipitor is that right OK uh so i see that your doctor stopped prescribing these drugs in twenty twenty one actually OK uh yeah i'd be happy to check that for you uh because sometimes there's a gap in the system and it just doesn't get reported so let me take a look here just a moment so i'm seeing here that your doctor had these drugs prescribed to you from twenty twelve through twenty twenty one OK um yeah according to the latest records uh provided by doctor's office you're now on a different drug metformin would you like us to go ahead and fill that prescription for you for pick up a bit of form in five hundred milligrams uh you're very welcome mary please let us know if there's anything else we can do for you today.
---
How was the response of the Customer Support agent. Classify and list down their various behaviors and cite the reason behind the classification, using the format BEHAVIOR("reason")		 1. Empathetic("understands the customer's frustration")
2. Patient("happy to check that for you one moment please")
3. Knowledgeable("sometimes there's a gap in the system and it just doesn't get reported")
4. Helpful("happy to check that for you")
5. Accommodating("would you like us to go ahead and fill that prescription for you")
6. Courteous("you're very welcome mary")
Příklad podrobností Výzva Dokončení
Example of prompt directing model response to fit a defined structure: Output format:
{
"TOPIC_NAME": "",
"HEADLINES": [],
"REASON": ""
}
Input news headlines:
1. "From books to presentations in 10s with AR + ML"
2. "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition"
3. "First Order Motion Model applied to animate paintings"
4. "Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells"
5. "United Airlines stock down over 5% premarket trading"
6. "Bitcoin was nearly $20,000 a year ago today"

Output:		 {"TOPIC_NAME": "Artificial Intelligence and Machine Learning",
"HEADLINES": ["From books to presentations in 10s with AR + ML",
"Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition", "First Order Motion Model applied to animate paintings"],"REASONING": "These headlines all contain references to Artificial Intelligence and Machine Learning, such as AR, ML, Convolutional Network, and First Order Motion Model." }
{"TOPIC_NAME": "Stock Market",
"HEADLINES": ["Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells", "United Airlines stock down over 5% premarket trading", "Bitcoin was nearly $20,000 a year ago today"],
"REASONING": "These headlines all contain references to the stock market, such as Robinhood, United Airlines, and Bitcoin." }

Úprava parametrů teploty a Top_P

Změna parametru teploty umožňuje modelům mít různé úrovně rizika. Vyšší hodnota, například 0,7, způsobí, že výstup bude náhodnější a vytvoří více divergentní odpovědi. Zatímco nižší hodnota, například 0,2, bude výstup více zaměřený a betonnější. Fiktivní příběh může být například generován pomocí vyšší teploty. Vzhledem k tomu, že k vygenerování právního dokumentu se doporučuje použít mnohem nižší teplotu.

V dalším příkladu otestujeme dvě odpovědi modelu na různá nastavení teploty 0,1 a 0,9. I když vyhodnocení kreativního obsahu, jako jsou části textu níže, je subjektivní cvičení a názory se mohou lišit, rozdíl v odpovědi modelu na stejnou výzvu pouze od změny parametru teploty je zřejmé.

Typ instrukce Výzva Dokončení
Model response for temperature setting 0.1: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.<br>1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Introducing the AI-Powered Headphones You've Been Waiting For!

Dear Tech-Savvy Music Lovers,

-We are thrilled to announce the launch of our new AI-powered headphones! These headphones are designed to provide you with the ultimate listening experience, with features like noise cancellation, adjustable sound settings, and more.

Our AI-powered headphones are now available at Best Buy, Target, and Amazon.com for just $79.99. With this unbeatable price, you can enjoy the highest quality sound without breaking the bank.

Our AI-powered headphones are perfect for anyone who loves music. Whether you're a professional musician or just a casual listener, you'll appreciate the superior sound quality and convenience of these headphones.

We know you'll love our AI-powered headphones, so don't wait - get yours today!

Sincerely,
[Your Company Name]
Model response for temperature setting 0.9: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.

1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Upgrade your Music Listening Experience with AI-powered Headphones

Greetings Tech-savvy Music Lovers!

We have some exciting news to share with you – the newest AI-powered headphones are here! Our newest headphones feature advanced AI technology to give you the best sound that you’ve ever heard. They come with a crystal-clear sound, deep bass response and are designed to make your music listening experience enjoyable, no matter what type of music you listen to.

What’s more, they are now available at Best Buy, Target and Amazon.com for just $79.99, so you can enjoy the highest sound quality without breaking the bank.

But that’s not all! Our headphones are also packed with several other amazing features such as noise-cancellation technology and a hands-free microphone for calls, making them truly unbeatable.

So why wait? Upgrade your music listening experience and enjoy the best sound your ears have ever heard. Our AI-powered headphones are now available at Best Buy, Target and Amazon.com, so get yours today!

We hope you will enjoy these headphones as much as we do.

Happy Listening!

The AI-powered Headphones Team

Top_probability je další parametr a je podobný teplotě, že také řídí náhodnost odpovědi modelu, ale dělá to jiným způsobem. Experimentujte s různými odpověďmi modelu s různou teplotou a Top_P, ale ne s oběma najednou.

Další kroky