Jednou z oblastí aplikace matematiky v ekonomii je teorie her. Teorie her se zabývá analýzou různých konfliktních rozhodovacích situací. Tyto situace nastávají všude tam, kde dochází ke střetu zájmů různých subjektů. To je případ, který nastává v ekonomii velmi často. Jedná se o například o situace, kdy firma přijme určité rozhodnutí, například vstoupit na určitý trh. Ostatní firmy, které na tomto trhu operují, však nějakým způsobem na vstup zareagují, udělají nějaké opatření, čímž se může zcela změnit situace pro firmu vstupující na trh.
Herně-teoretické modely se pak snaží tyto konfliktní situace nejen analyzovat, ale sestavením matematického modelu daného konfliktu a pomocí výpočtů se snaží nalézt co nejlepší strategie pro konkrétní účastníky takových konfliktů. Příkladem může být modelování trhu, kde působí jedna nebo jen několik firem (monopolní nebo oligopolní trh), analýza cenové války, modelování problému označovaného jako tragédie obecní pastviny a řada dalších problémů.
Asi nejznámější model z oblasti teorie her je vězňovo dilema. Můžeme ho popsat jednoduše následujícím způsobem:
Ze spáchání trestního činu jsou obviněny dvě osoby A a B. Jsou vyslýcháni zvlášť a při výslechu jim vyšetřovatel nabídne dvě možnosti:
| Obviněný B | |||
| Přizná se | Nepřizná se | ||
| Obviněný A | Přizná se | A: 6 | A: 1 |
| B: 6 | B: 12 | ||
| Nepřizná se | A: 12 | A: 3 | |
| B: 1 | B: 3 | ||
Tento typ hry je označován v teorii her jako hra s nenulovým součtem. Dva hráči (vězni, obvinění) zde mají možnost spolupracovat nebo nespolupracovat a výsledek (doba, ke které budou odsouzeni) závisí na jejich rozhodnutí.
Podívejme se na uvedené vězňovo dilema podrobněji. Obviněný A před učiněním vlastního rozhodnutí zvažuje důsledky možných výpovědí odviněného B.
Pokud se obviněný B přizná, je pro A výhodné přiznat se také s důsledkem šestiletého vězení. Výsledek (doba, ke které budou odsouzeni) bude tedy vyrovnaný. Oba obvinění budou odsouzeni k šestiletému. Pokud se ale obviněný A nepřizná, bude odsouzen ke dvanácti letům vězení, naproti tomu obviněný B jen k jednomu roku vězení.
Pokud se obviněný B nepřizná a obviněný A také ne, bude výsledek opět vyrovnaný. Oba obvinění dostanou trest vězení tři roky. Je ale vidět, že oba obvinění si oproti situaci, kdy se oba přiznají, polepší. Úplně nejlepší variantou pro obviněného A by bylo nepřiznat se, pokud se přizná vězeň B.
Podobně jako u mnoha jiných her se předpokládá, že každý hráč se stará především o svůj prospěch. Snaží se maximalizovat své výhody bez ohledu na prospěch ostatních hráčů. V tomto případě je zřejmě dominantní strategií obou obviněných přiznat se. V tomto případě ale oba stráví ve vězení příštích šest let. Kdyby se oba nepřiznali, dostali by „pouze“ tři roky.
Tato volba by pro oba byla optimálním řešením. Pokud oba zůstanou loajální, v konečném součtu oba získají více, než když nespolupracují.
Pokud si vezmeme na pomoc výzkumy reálného chování lidí, pak podle psychologických výzkumů se pouze 40 % obviněných chová kooperativně. Většina lidí by tedy doufala v nejkratší možný trest na úkor spoluobviněného. Tím si však paradoxně pohorší. Do matematického problému rozhodování tak vstupuje psychologie a faktor sobectví.
Zajímavá situace nastane, pokud, hra se hraje opakovaně – hra se označuje jako iterované (opakované) vězňovo dilema. Hráč tu má možnost „potrestat“ druhého za předchozí nekooperativní hru. Sobeckost se tak stává nevýhodnou a většina hráčů upřednostní vypočítavý altruismus. Zde se racionální strategií může stát spolupráce.
Jedná se o poměrně jednoduchý herně teoretický model, který má však řadu aplikací v ekonomii, např. modelování soutěžení oligopolních firem při snaze o získání co největšího počtu zákazníků (oligopolní trh se označuje takový trh, na kterém působí jen několik firem – příkladem může být situace na trhu mobilního volání v České republice), cenová válka, odrazování od vstupu na určitý trh a další. Řadu aplikací má tento model i v oblasti biologie a v dalších oblastech.
V teorii her je řada složitějších modelů, které se rozdělují podle informací dostupných pro zúčastněné hráče, podle velikosti prostoru strategií, zda hráči spolu spolupracují či nikoliv, hry proti přírodě a řada dalších. Některé z nich nacházejí praktické uplatnění v ekonomii i dalších vědních oborech, některé z nich popisují spíše teoretické situace. Lze konstatovat, že teorie her je jednou z matematických disciplín, které mají praktické uplatnění při řešení řady situací v ekonomické teorii i praxi.