Diskretna matematika s teorijom grafova Blaˇzenka Divjak
Alen Lovrenˇci´c
Varaˇzdin, 2005.
Predgovor Ova je knjiga n...
203 downloads
1085 Views
5MB Size
Report
This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!
Report copyright / DMCA form
Diskretna matematika s teorijom grafova Blaˇzenka Divjak
Alen Lovrenˇci´c
Varaˇzdin, 2005.
Predgovor Ova je knjiga nastala u ˇzelji da se kolegij Diskretne strukture s teorijom grafova, koji autori predaju na poslijediplomskom studiju informacijskih znanosti na Fakultetu organizacije i informatike Sveuˇciliˇsta u Zagrebu od 2002. godine, opermi prikladnom literaturom. Stoga je ova knjiga prilagodena studentima kojima je glavno podruˇcje izuˇcavanja informatika, i to ne samo onima koji studiraju na Fakultetu organizacije i informatike. Grada ove knjige birana je tako da daje skup matematiˇckih formalizama koji imaju ˇsiroku primjenu u informatici i raˇcunalstvu. Stoga ova knjiga moˇze biti od pomo´ci i inˇzenjerima koji se profesionalno bave raˇcunarstvom i informatikom. Zbog toga autorima nije bio glavni cilj da uvijek, pod svaku cijenu gradivo predoˇce u svoj matematiˇckoj strogosti i sa svim matematiˇckim aspektima koji se mogu razmatrati. Odrˇzavˇsi dovoljno matematiˇcke egzaktnosti, autori su pokuˇsali gradivo izloˇziti tako da ga bude ˇsto lakˇse primijeniti na konkretne probleme, koji se u informatici i raˇcunalstvu susre´cu.
Sadrˇ zaj knjige Prvo poglavlje ove knjige je naslovljeno Uvod, i predstavlja skup osnovnih pojmova koje je nuˇzno definirati da bi sljede´ca poglavlja mogla biti korektno predstavljena. Ona sadrˇzi opis metoda koje se koriste u matematici, modela te op´cenite tehnike koje matematiˇcari koriste u dokazivanju. Uvodno je poglavlje napisala Blaˇzenka Divjak. Sljede´ce poglavlje predstavlja produˇzetak prvog, uvodnog poglavlja i donosi opis matematiˇcke logike, a isto tako dva formalna dedukcijska sustava - F-sustav i rezolucijsku proceduru. F-sustav predstavlja formalizaciju pravila dokazivanja opisanih u poglavlju 1.2. S druge strane, rezolucijska procedura predstavlja deduktivni sustav, koji je posebno pogodan za dokazivanje teorema pomo´cu raˇcunala. Poglavlje o matematiˇckoj logici napisao je Alen Lovrenˇci´c. U tre´cem poglavlju se uvode pojmovi koji pripadaju diskretnoj matematici - relacije, funkcije, skupove, pojam rekurzivne jednadˇzbe, rjeˇsavanje rekurzivnih jednadˇzbi, te na kraju, diskretnu teoriju vjerojatnosti. Ovo je poglavlje napisala Blaˇzenka Divjak, osim dijelova o rekurzijama i diskretne i
ii teorije vjerojatnosti, koje je napisao Alen Lovrenˇci´c. Ovo je ujedno i poglavlje koje sadrˇzi raznolike sadrˇzaje - sve ono iz podruˇcja diskretne matematike ˇsto se intenzivno koristi u informatici i raˇcunalstvu. U ˇcetvrtom se poglavlju obraduje vrlo vaˇzan pojam, kako u matematici, tako i u raˇcunalstvu i informatici - pojam algoritma. Poglavlje se sastoji od tri dijela. U prvom se dijelu uvodi i objaˇsnjava pojam algoritma. Drugi dio daje pregled teorije sloˇzenosti algoritama, dok je tre´ci dio primjeran i daje algoritme iz jednog vrlo vaˇznog podruˇcja - podruˇcja pretraˇzivanja i sortiranja niza elemenata. Ovo je poglavlje napisao Alen Lovrenˇci´c. Peto poglavlje daje teoriju grafova, koja je iznimno vaˇzna i koriˇstena matematiˇcka teorija u raˇcunarstvu i informatici, ali i u mnogim drugim znanstvenim i struˇcnim granama. Poglavlje sadrˇzi niz vrlo vaˇznih problema, kako u informatici i raˇcunarstvu, tako i u drugim srodnim granama, od problema pronalaˇzenja puteva, ˇsetnji i ciklusa te razapinju´cih stabala, pa do protoka i rezova te bojenja vrhova i bridova grafa. Autor ovog poglavlja je Blaˇzenka Divjak. ˇ Sesto poglavlje daje opis osnovnih algebarskih struktura. One su znaˇcajne u teoriji raˇcunalstva, optimizaciji, teoriji algoritama, teoriji inteligentnih agenata itd. Algebarske strukture su matematiˇcki okvir u koji se, zbog njihovih dobro definiranih svojstava uklapaju mnogi problemi, koji na taj naˇcin dobijaju novi kut glediˇsta pa se tako ˇcesto dobijaju novi rezultati vezani uz problem. Ovo je poglavlje napisala Blaˇzenka Divjak. Posljednje poglavlje je zamiˇsljeno, na neki naˇcin, kao poanta cijele knjige. Ono sadrˇzi matematiˇcki sadrˇzaj, koji je nastao tijekom godina iz pokuˇsaja da se matematiˇcki opiˇse intuitivni pojam algoritma. Tako je nastala cijela teorija automata i jezika, ˇcije su osnove opisane u ovom poglavlju. No, ovo poglavlje ima joˇs jednu vaˇznost za ovu knjigu - ono na neki naˇcin opravdava izbor sadrˇzaja cijele knjige, koriste´ci mnogo od prije opisanog sadrˇzaja. Ovo zavrˇsno poglavlje napisao je Alen Lovrenˇci´c.
Kako koristiti knjigu Ova knjiga sadrˇzi zaista razliˇcite matematiˇcke sadrˇzaje, koji se mogu zasebno prouˇcavati. Pri tome ne ˇzelimo re´ci da su poglavlja u potpunosti nezavisna i da se ni u jednom od njih ne koriste rezultati iz prethodnih poglavlja, no ta veza nije toliko snaˇzna da bi zahtjevala slijedno prouˇcavanje sadrˇzaja. ˇ Stoviˇ se, tre´ce poglavlje napisano je tako da se njegova podpoglavlja mogu ˇ se tiˇce ostalih poglavlja, ona, uglavnom, zai sama izuˇcavati zasebno. Sto htjevaju slijedno prouˇcavanje. Neki su dijelovi knjige napisani manjim slovima. To su dijelovi koji se odnose na nadogradnje osnovnog materijala i na naprednije gradivo, koje se moˇze izostaviti kod prvog ˇcitanja. Ti se dijelovi nikako ne mogu smatrati nevaˇznima, ve´c onima koji zahtjevaju ve´ci angaˇzman i detaljnije poznavanje
PREDGOVOR
iii
podruˇcja. Pri izlaganju teksta su neki dijelovi izostavljeni i ostavljeni za samostalan rad ˇcitatelja, bilo kao zadaci unutar teksta, bilo kao izostavljeni dokazi ili problemi. U svakom sluˇcaju, izostavljeni dijelovi su paˇzljivo odabrani, tako da bi ih ˇcitatelj tijekom ˇcitanja morao mo´ci bez ve´cih problema i priprema samostalno izraditi. Autori preporuˇcuju da se zadaci unutar teksta, kao i dokazi za koje je napomenuto da su ostavljeni za samostalan rad ˇcitatelju, svakako tijekom ˇcitanja izrade, jer na taj naˇcin ˇcitatelj ve´c tijekom samog ˇcitanja poˇcinje baratati pojmovima koje prouˇcava, ˇsto znatno pove´cava njihovu razumljivost. Na kraju svakog poglavlja nalaze se zadaci. Zadaci pokrivaju sadrˇzaj poglavlja uz koje su vezani i svakako se preporuˇcuje da se zadani zadaci rijeˇse. Oni ne sluˇze samo za ponavljanje gradiva poglavlja, ve´c djelomiˇcno i nadograduju sadrˇzaj. Zadaci mogu ˇcitatelju pokazati koliko je zaista shvatio ono ˇsto je proˇcitao, ali mu mogu i dodatno objasniti neke detalje koji iz samog teksta nisu bili jasni. Osim toga, svako je poglavlje opskrbljeno i problemima. Od ˇcitatelja se ne oˇcekuje da izradi rjeˇsenje svakog problema u knjizi, jer su problemi zamiˇsljeni kao studijski zadaci, koji zahtjevaju duˇzi rad detaljnije prouˇcavanje literature i dublje upoznavanje podruˇcja na koje se odnose. Svakako, ovi problemi su pogodni za izradu seminarskih radova studenata koji sluˇsaju kolegije koji pokrivaju podruˇcje opisano u ovoj knjizi, ali oni predstavljaju i ideje za daljnji samostalan rad svim ˇcitateljima zainteresiranim za nadogradnju znanja iz danog podruˇcja. Svako poglavlje ima i literaturu koja je koriˇstena pri izradi sadrˇzaja, ali koja isto tako predstavlja smjernice za daljnji rad ˇcitateljima koji su posebno zainteresirani za sadrˇzaj dotiˇcnog poglavlja.
Zahvale i pokude Uobiˇcajeno je da se u predgovoru popiˇsu ljudi koji su autorima pomogli u izdavanju knjige te da se pokude autori ˇsto je u knjizi ostalo joˇs pogreˇsaka i ˇsto su neki sadrˇzaji moˇzda ostali nedovoljno pokriveni, pa ´cemo se i mi drˇzati tog obiˇcaja. No, uprkos naˇsem pristajanju na obiˇcaj, napravit ´cemo, matematiˇcki reˇceno, inverziju, pa ´cemo na poˇcetku zahvaliti naˇsim obiteljima. Oni su nas podupirali pri pisanju ove knjige, ˇcesto i ne znaju´ci toˇcno o ˇcemu se radi, imaju´ci puno povjerenje u nas i ono ˇsto radimo, odriˇcu´ci se onoga ˇsto im pripada - naˇse paˇznje. ˇ Zahvaljujemo naˇsim recenzentima Mirku Cubrilu, Tihomiru Hunjaku i Mariu Krni´cu (abecednim redom) koji su svojim sugestijama doprinijeli poboljˇsanju ove knjige, ali koji su, isto tako, garantiraju´ci svojim imenima kvalitetu ove knjige, omogu´cili da ona bude izdana. Knjiga je izdana uz
iv potporu projekta TEMPUS ”Aspects of Information and Organization Systems: Curriculum Development” (CD-JEP-16086-2001), na kojem su oba autora predano radila. Zahvaljujujemo naˇsim izdavaˇcima: Fakultetu organizacije i informatike i TIVA-i. Posebno zahvaljujemo Mireli Ostroˇski, na ˇcitenju teksta i na izradi nekih zadataka, te Renati Horvatek, koja je napravila lekturu teksta. Na kraju, sve pokude za pogreˇske koje su ”opstale” nakon svih isˇcitavanja knjige, nedostatke teksta, nejasno´ce i bilo koje probleme na koje ´ce ˇcitatelj nai´ci zadrˇzavamo iskljuˇcivo za sebe. Svim ˇcitateljima ˇzelimo ugodan i plodonosan rad uz ovu knjigu. B. Divjak, A. Lovrenˇci´c Varaˇzdin, 2005.
Sadrˇ zaj Predgovor
i
1 Uvod 1.1 Matematiˇcke metode i modeli . . . . . . . . . . . . . . . . . . 1.1.1 Znanstvena metoda . . . . . . . . . . . . . . . . . . . 1.1.2 Matematiˇcki model . . . . . . . . . . . . . . . . . . . . 1.1.3 Struktura matematike . . . . . . . . . . . . . . . . . . 1.2 Tehnike dokazivanja u matematici . . . . . . . . . . . . . . . 1.2.1 Sudovi i matematiˇcka logika kao okvir za matematiˇcke tvrdnje . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2.2 Dokazivanje matematiˇckih tvrdnji . . . . . . . . . . . 1.2.3 Matematiˇcka indukcija i skup prirodnih brojeva . . . . 1.2.4 Princip dobrog uredaja u skupu N . . . . . . . . . . . 1.3 Zadaci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1 1 1 2 3 5 5 7 8 11 12
2 Matematiˇ cka logika 2.1 Raˇcun sudova . . . . . . 2.1.1 Sintaksa . . . . . 2.1.2 Semantika . . . . 2.2 Predikatni raˇcun . . . . 2.2.1 Sintaksa . . . . . 2.2.2 Semantika . . . . 2.2.3 Formalni sustavi 2.3 Zadaci . . . . . . . . . . 2.4 Projekti . . . . . . . . .
. . . . . . . . .
17 18 18 19 29 29 31 33 40 41
. . . . . .
45 46 46 46 47 47 48
. . . . . . . . .
. . . . . . . . .
. . . . . . . . .
. . . . . . . . .
. . . . . . . . .
. . . . . . . . .
3 Diskretna matematika 3.1 Skupovi . . . . . . . . . . . . . . . 3.1.1 Zadavanje skupa . . . . . . 3.1.2 Relacije medu skupovima . 3.1.3 Partitivni skup . . . . . . . 3.1.4 Operacije na skupovima . . 3.1.5 Kartezijev produkt skupova v
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
. . . . . . . . .
. . . . . .
ˇ SADRZAJ
vi 3.2
Binarne relacije . . . . . . . . . . . . . . . . . . . . . . . . . . 3.2.1 Binarne relacije na diskretnim skupovima . . . . . . . 3.2.2 Obrat relacije, komplement relacije i dualna relacija . 3.3 Relacija ekvivalencije . . . . . . . . . . . . . . . . . . . . . . . 3.3.1 Definicija i svojstva relacija ekvivalencije . . . . . . . 3.3.2 Kongruencije . . . . . . . . . . . . . . . . . . . . . . . 3.3.3 Aritmetika u Zk . . . . . . . . . . . . . . . . . . . . . 3.3.4 Joˇs neka svojstva binarnih relacija . . . . . . . . . . . 3.4 Uredajne binarne relacije . . . . . . . . . . . . . . . . . . . . 3.4.1 Relacija parcijalnog uredaja . . . . . . . . . . . . . . . 3.4.2 Relacija djeljivosti na skupu cijelih brojeva . . . . . . 3.5 Funkcije . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.5.1 Kompozicija funkcija . . . . . . . . . . . . . . . . . . . 3.5.2 Bijekcija. Inverzna funkcija . . . . . . . . . . . . . . . 3.5.3 Funkcije kao relacije . . . . . . . . . . . . . . . . . . . 3.5.4 Realne funkcije realne varijable . . . . . . . . . . . . . 3.6 Graf funkcije . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.6.1 Neka svojstva realnih funkcija realne varijable . . . . 3.6.2 Konaˇcni i beskonaˇcni skupovi . . . . . . . . . . . . . . 3.7 Rekurzivne relacije . . . . . . . . . . . . . . . . . . . . . . . . 3.7.1 Uvod . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.7.2 Rjeˇsavanje rekurzija - karakteristiˇcna jednadˇzba . . . 3.7.3 Rjeˇsavanje rekurzivnih jednadˇzbi - funkcije izvodnice . 3.8 Diskretna teorija vjerojatnosti . . . . . . . . . . . . . . . . . . 3.8.1 Osnove kombinatorike . . . . . . . . . . . . . . . . . . 3.8.2 Osnovne definicije i teoremi diskretne teorije vjerojatnosti . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.8.3 Uvjetna vjerojatnost . . . . . . . . . . . . . . . . . . . 3.8.4 Sluˇcajne varijable . . . . . . . . . . . . . . . . . . . . . 3.9 Zadaci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.10 Projekti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
49 49 51 51 51 54 60 62 63 63 67 69 70 71 71 72 73 73 78 79 79 82 91 93 93 97 104 107 115 121
4 Algoritmi 125 4.1 Pojam algoritma . . . . . . . . . . . . . . . . . . . . . . . . . 125 4.2 Sloˇzenost algoritama . . . . . . . . . . . . . . . . . . . . . . . 130 4.3 Pretraˇzivanje i sortiranje . . . . . . . . . . . . . . . . . . . . . 139 4.3.1 Pretraˇzivanje . . . . . . . . . . . . . . . . . . . . . . . 139 4.3.2 Sortiranje . . . . . . . . . . . . . . . . . . . . . . . . . 145 4.3.3 Donja meda sloˇzenosti algoritama usporedivanja i sortiranja temeljenih na usporedivanju . . . . . . . . . . 176 4.3.4 Sortiranje u vremenu O(n) . . . . . . . . . . . . . . . 179 4.4 Zadaci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186 4.5 Projekti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187
ˇ SADRZAJ 5 Teorija grafova 5.1 Definicija grafa i osnovna svojstva . . . . 5.2 Izomorfizam grafova . . . . . . . . . . . . 5.3 Regularni grafovi . . . . . . . . . . . . . . ˇ 5.4 Setnje i ciklusi u grafu . . . . . . . . . . . 5.4.1 Eulerova staza . . . . . . . . . . . 5.5 Matrica incidencije i matrica susjedstva . 5.6 Hamiltonovi ciklusi . . . . . . . . . . . . . 5.7 Teˇzinski grafovi. Algoritmi najkra´ceg puta 5.7.1 Dijkstrin algoritam . . . . . . . . . 5.7.2 Problem kineskog poˇstara . . . . . 5.8 Stabla . . . . . . . . . . . . . . . . . . . . 5.8.1 Osnovno o stablima . . . . . . . . 5.8.2 Binarno stablo . . . . . . . . . . . 5.8.3 Minimalno razapinju´ce stablo . . . 5.8.4 Pretraˇzivanje stabla . . . . . . . . 5.9 Usmjereni grafovi i mreˇze . . . . . . . . . 5.9.1 Usmjereni graf . . . . . . . . . . . 5.9.2 Turnir . . . . . . . . . . . . . . . . 5.9.3 Mreˇze i kritiˇcni putevi . . . . . . . 5.9.4 Problem rasporeda . . . . . . . . . 5.9.5 Protoci i rezovi . . . . . . . . . . . 5.9.6 Max-flow min-cut teorem . . . . . 5.10 Bojenje grafova . . . . . . . . . . . . . . . 5.10.1 Problem ˇcetiri boje . . . . . . . . . 5.10.2 Bojenje vrhova grafa . . . . . . . . 5.10.3 Bojenje bridova grafa . . . . . . . 5.11 Sparivanje u grafovima . . . . . . . . . . . 5.12 Zadaci . . . . . . . . . . . . . . . . . . . . 5.13 Projekti . . . . . . . . . . . . . . . . . . .
vii
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
191 192 197 199 200 201 204 208 209 210 212 214 215 217 222 224 226 226 227 228 228 231 233 236 236 237 240 242 242 248
6 Algebarske strukture 6.1 Definicija i primjeri algebarskih struktura . . . 6.2 Grupe . . . . . . . . . . . . . . . . . . . . . . . 6.2.1 Definicija grupe . . . . . . . . . . . . . . 6.2.2 Konaˇcne i cikliˇcke grupe . . . . . . . . . 6.2.3 Primjeri grupa . . . . . . . . . . . . . . 6.2.4 Podgrupe . . . . . . . . . . . . . . . . . 6.3 Izomorfizam grupa . . . . . . . . . . . . . . . . 6.4 Primjena grupa u kodiranju . . . . . . . . . . . 6.4.1 Teorija kodiranja kao grana matematike 6.4.2 Problemi prijenosa informacija . . . . . 6.4.3 Metrika na kodnim rijeˇcima . . . . . . . 6.4.4 Grupa koda . . . . . . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
253 254 255 255 257 259 260 263 265 265 267 267 269
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
ˇ SADRZAJ
viii 6.4.5 Matrica izvodnica kodiraju´ce funkcije Prsteni i polja . . . . . . . . . . . . . . . . . . 6.5.1 Prsten . . . . . . . . . . . . . . . . . . 6.5.2 Primjeri prstena . . . . . . . . . . . . 6.5.3 Polje . . . . . . . . . . . . . . . . . . . 6.5.4 Primjeri polja . . . . . . . . . . . . . . 6.6 Vektorski prostor . . . . . . . . . . . . . . . . 6.7 Primjeri vektorskog prostora . . . . . . . . . 6.8 Algebarske strukture polinoma . . . . . . . . 6.8.1 Prsten polinoma . . . . . . . . . . . . 6.8.2 Vektorski prostor polinoma . . . . . . 6.9 Zadaci . . . . . . . . . . . . . . . . . . . . . . 6.10 Projekti . . . . . . . . . . . . . . . . . . . . . 6.5
7 Matematiˇ cka teorija raˇ cunalstva 7.1 Jezici . . . . . . . . . . . . . . . . . . . 7.1.1 Regularni izrazi . . . . . . . . . 7.1.2 Kontekstno slobodne gramatike 7.2 Konaˇcni automati . . . . . . . . . . . 7.3 Potisni automati . . . . . . . . . . . . 7.4 Turingovi strojevi . . . . . . . . . . . . 7.5 Zadaci . . . . . . . . . . . . . . . . . . 7.6 Projekti . . . . . . . . . . . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
272 275 276 276 278 279 281 283 284 284 285 286 288
. . . . . . . .
293 . 294 . 295 . 298 . 299 . 307 . 313 . 324 . 327
Poglavlje 1
Uvod Matematika je vrata, ali i kljuˇc ulaznih vrata u znanost. Roger Bacon
1.1
Matematiˇ cke metode i modeli
U ovom uvodnom poglavlju iznijet ´cemo kratki uvod u znanstvenu metodu, te njezine moderne inaˇcice. Nadalje, pokuˇsat ´cemo predstaviti vaˇznost matematike u znanstvenim problemima i svakodnevnom ˇzivotu i radu. Medutim, da bismo pravilno koristili matematiˇcke metode, treba poznavati osnove njezine strukture kao i metode dokazivanja hipoteza u matematici. Posebno ´cemo izdvojiti princip matematiˇcke indukcije kao metodu kojom dokazujemo tvrdnje koje ovise o prirodnim brojevima, te koju ˇcesto koristimo kod rekurzivnih definicija.
1.1.1
Znanstvena metoda
Znanost moˇzemo definirati kao metodiˇcki (sistematski) pristup prikupljanju znanja. U znanosti se za istraˇzivanje sluˇzimo znanstvenom metodom. Znanstvena metoda se temelji na ˇcinjenicama, a ne na uvjerenjima, a u op´cem smislu ukljuˇcuje nekoliko koraka. Koraci znanstvene metode su sljede´ci: promatranje, postavljanje pitanja, postavljanje hipoteze, testiranje hipoteze, eksperiment, analiza podataka i rezultata i zakljuˇcak. Hipoteza ne mora uvijek biti toˇcna, ali treba biti mjerljiva. Naˇcin na koji se testira hipoteza ovisi o podruˇcju znanosti u kojem se istraˇzuje. Medutim, danas je znanost kompleksnija nego ikad, bavi se sve teˇzim i teˇzim problemima koje nuˇzno treba rjeˇsavati multidisciplinarnim pristupom. U tom procesu potrebno je pametno kombinirati individualne ekspertize i kompetencije. Stoga je nuˇzan projektni pristup rjeˇsavanju problema i njihovom istraˇzivanju. Prema tradicionalnoj znanstvenoj metodi koja apo1
ˇ 1.1. MATEMATICKE METODE I MODELI
2
strofira objektivnost, a eksperimente pojednostavljuje tako da bi se moglo razmatrati samo jedno pitanje, problemi moderne znanosti ne mogu se viˇse uspjeˇsno rjeˇsavati. Istovremeno, jaˇca uloga raˇcunalnog modeliranja i simboliˇckih matematiˇckih eksperimenata, kao i uloga matematiˇckih i statistiˇckih metoda op´cenito. U tom svjetlu mnogi znanstvenici predlaˇzu da treba mijenjati i klasiˇcnu znanstvenu metodu [7]. Prema [7], alternativni izgled znanstvenog procesa ukljuˇcivao bi i razvoj novih metodologija koje bi odgovarale postavljenom problemu, te razvoj teorija, koje bi objaˇsnjavale rezultate. Nove tehnologije mogu iza´ci kao dodatni rezultat razvoja metodologije i alata, kao i konaˇcni rezultat istraˇzivanja. Primjerice, Kopernik je pri reviziji Ptolomejeve kozmologije, razvio matematiˇcku metodologiju koja ga je dovela do rezultata, koji su oznaˇcili preokret, ne samo u astronomiji, nego u ˇcovjekovu cjelokupnom poimanju svijeta. Jednom kad se pojavi problem, zada´ca je znanosti da nade metodologiju pomo´cu koje ´ce ga rijeˇsiti. Ali ne samo to. Znanstvenici trebaju razmotriti teorijsko znaˇcenje i vaˇznost problema kojeg obraduju te mogu´cnosti primjene njegovih direktnih i indirektnih rezultata.
1.1.2
Matematiˇ cki model
Osnova za razumijevanje svijeta je promatranje. Promatranjem prikupljamo informacije. Znanstvenik prikuplja informacije sistematski, u skladu sa znanstvenom metodologijom. Pri tome se sluˇzi mjerenjem da bi kvantificirao podatke. Na temelju pojedinaˇcnih informacija rade se generalizacije, najprije jednostavne, pa sve sloˇzenije. Konaˇcno, dolazimo do razumijevanja materije na temelju principa. Op´cenito, princip je poop´cenje ili apstraktna tvrdnja. U procesu istraˇzivanja, ali i u svakodnevnom rjeˇsavanju problema, upotrebljavamo modele. Model je analogija s nekim objektom ili konceptom, ili drugim interesantnim modelom, a koristi se kao objaˇsnjenje nekog procesa ili predvidanje dogadaja. O modelu moˇzemo razmiˇsljati kao o ”imaginarnoj, pojednostavljenoj verziji dijela svijeta kojeg promatramo.” ([5]) Iskustvo pokazuje da je matematika dobro sredstvo (jezik) za izraˇzavanje principa. Matematiˇcki modeli su modeli bazirani na matematiˇcki postavljenim principima. Dakle, oni predstavljaju matematiˇcku karakterizaciju ili opis nekog fenomena ili procesa. Matematiˇcki model sadrˇzi sljede´ce bitne komponente; pojavu ili proces iz realnog svijeta koji se ˇzeli modelirati, apstraktnu matematiˇcku strukturu i korespondenciju izmedu elemenata prve i druge komponente. Svrha matematiˇckog modela je: • prezentacija informacija u lako prihvatljivom obliku, • omogu´cavanje “lakog” raˇcunanja,
POGLAVLJE 1. UVOD
3
• olakˇsavanje istraˇzivanja i predvidanja. Matematiˇcki modeli op´cenito sadrˇze tri razliˇcite vrste kvantitativnih veliˇcina: izlazne varijable (output), ulazne varijable (input) i parametre (konstante). Viˇse o matematiˇckom modeliranju moˇzete na´ci u [4]. Jedan od poznatih modela u fizici je model plina u kinetiˇckoj teoriji plina. Molekule plina zamiˇsljamo kao vrlo male kuglice smjeˇstene u nekoj kocki. Kuglice se gibaju konstantnom brzinom, nezavisno jedna od druge, a njihove medusobne sudare, kao i sudare sa stjenkama kocke, smatramo elastiˇcnima. Smjerove brzina molekula smatramo nasumiˇcnima, tj. njihova rezultanta je nul-vektor. Na temelju ovog priliˇcno grubog modela, punog pretpostavki, dobivene su formule koje dobro opisuju realnu situaciju. Dakle, matematika je izuzetno korisna i to se moˇze dobro argumentirati. Ali na matematiku se moˇze gledati i drugaˇcije. O matematici se govori i kao o logiˇckoj igri ili o sredstvu za razvijanje logiˇckog i sistematskog razmiˇsljanja. Nadalje, matematiku se ponekad opisuje kao znanost o uzorcima (vidi [3]), jer matematiˇcari prouˇcavaju uzorke: numeriˇcke uzorke, uzorke oblika, uzorke gibanja, uzorke ponaˇsanja, izborne uzorke, uzorke sluˇcajnih dogadaja itd.
Matematiˇcka struktura
Proces u realnom svijetu
Slika 1.1
1.1.3
Struktura matematike
Povijesno gledaju´ci, matematiku je kao ”univerzalni jezik” prvi promatrao Gottfried Leibniz u 17. stolje´cu. On je smatrao da se argumenti u matematici, ali i svugdje drugdje, trebaju logiˇcki provjeravati. Nadalje, Gottlob Frege je u drugoj polovici 19. stolje´ca nastavio sliˇcno razmiˇsljati i tvrdio da se
ˇ 1.1. MATEMATICKE METODE I MODELI
4
matematika treba izgraditi na predikatnoj logici. U posljednjem desetlje´cu 19. st. Guiseppe Peano je napravio aksiomatski okvir koji je ukljuˇcivao logiku i teoriju skupova. Taj su rad poˇcetkom 20. st. nastavili Alfred Whitehead i Bertrand Russell. Ponovimo vaˇzne ˇcinjenice o matematiˇckim strukturama. Pojaˇsnjenja se mogu na´ci u [4], (str.7-9). Pojmovi u matematici se dijele na osnovne i izvedene pojmove. Osnovni pojmovi se ne definiraju, a izvedeni se pojmovi definiraju pomo´cu osnovnih. Definicija je sud pomo´cu kojeg se odreduje sadrˇzaj nekog pojma. Isti se pojam moˇze definirati na viˇse ekvivalentnih naˇcina. Osnovni matematiˇcki pojmovi su generalizacija objekata iz stvarnog svijeta (npr. pravac je generalizacija zrake svjetlosti). Prilikom formiranja tvrdnji koristimo se zakljuˇcivanjem. Zakljuˇcivanje je naˇcin miˇsljenja kojim se viˇse sudova (premisa) dovodi u vezu i izvodi novi sud (zakljuˇcak, rezultat). Razlikujemo induktivno i deduktivno zakljuˇcivanje te zakljuˇcivanje po analogiji. Matematiˇcki oblici zakljuˇcivanja su induktivno i deduktivno zakljuˇcivanje. Indukcija moˇze biti potpuna (matematiˇcka) i nepotpuna. Pri dokazivanju u matematici sluˇzimo se potpunom ili matematiˇckom indukcijom. No i u ostalim ljudskim djelatnostima, gdje se vaˇznost pridaje ispravnom zakljuˇcivanju, ne smijemo se sluˇziti nepotpunom indukcijom. O tome ´ce biti viˇse govora u nastavku knjige. Deduktivna metoda karakterizira viˇsi nivo razvoja Slika 1.2: Gottfried Wilneke znanosti, jer ona podrazumijeva postojanje helm von Leibniz principa. Euklid (365. p. K.) je bio prvi poznati znanstvenik u povijesti koji je sustavno primijenio deduktivne metode, i to u geometriji. Geometrija je na taj naˇcin aksiomatizirana (vidi: [9], [2]), tj. utemeljena na sustavu aksioma, koji predstavljuju tvrdnje za koje postoji uvjerenje da su istinite. Tako dobivenu geometriju nazivamo euklidskom geometrijom. Aritmetika je aksiomatizirana znatno kasnije, u drugoj polovici 19. st. (vidi: [10]). Istaknimo bitne elemente matematiˇcke teorije deduktivnog pristupa. To su: 1. nabrajanje osnovnih pojmova, 2. definiranje sloˇzenih pojmova, 3. postavljanje aksioma, 4. iskazivanje teorema, 5. dokazi teorema.
POGLAVLJE 1. UVOD
5
Aksiomi i teoremi (pouˇcci, stavci) izriˇcu ekvivalentne tvrdnje i iznose zakljuˇcke o matematiˇckim pojmovima i njihovim medusobnim odnosima i vezama. Aksiomi su tvrdnje koje smatramo istinitima bez posebnog dokaza, dok su teoremi tvrdnje koje logiˇcki izviru iz aksioma. Svaki teorem treba izvesti (deducirati, dokazati) iz jednog ili viˇse aksioma u konaˇcno mnogo koraka. Dokaz je zakljuˇcivanje kojim se pokazuje da je neki teorem logiˇcka posljedica nekih aksioma ili ve´c dokazanih teorema. Dokaz moˇze biti direktan i indirektan.
1.2 1.2.1
Tehnike dokazivanja u matematici Sudovi i matematiˇ cka logika kao okvir za matematiˇ cke tvrdnje
U matematici, kao i drugim znanostima, susre´cemo tvrdnje koje izraˇzavaju odredene znanstvene spoznaje. Tvrdnje u znanosti se trebaju dokazati. Pojedine znanstvene discipline raspolaˇzu skupom metoda kojima se tvrdnje u tom podruˇcju dokazuju. Tehnike dokazivanja u druˇstvenim znanostima bitno se razlikuju od onih u prirodnim znanostima, a posebno matematici. U svakom je znanstvenom istraˇzivanju u poˇcetku potrebna istraˇzivaˇcka intuicija, koja je ˇcesto temeljena na ranijim spoznajama i iskustvu. Medutim, nakon ˇsto su formulirane odredene znanstvene hipoteze, potrebno je egzaktno dokazati njihovu toˇcnost. U tom smislu hipoteze trebaju biti sudovi . Iz matematiˇcke logike poznato je da su sudovi tvrdnje za koje se jednoznaˇcno moˇze re´ci jesu li istinite ili nisu. U povijesti znanosti poznato je mnogo hipoteza koje joˇs nisu postale sudovi. U matematici je poznata Goldbachova hipoteza, koja Slika 1.3: Pierre de Fermat tvrdi da je svaki paran broj, ve´ ci od 2, mogu´ce prikazati u obliku zbroja dvaju prostih brojeva (opisana u [4], 21). Donedavno je i posljednji Fermatov teorem (prozvan i veliki Fermatov teorem) bio samo matematiˇcka slutnja bez dokaza. Prisjetimo se jednostavne formulacije posljednjeg Fermatovog teorema: Za svaki prirodni broj ve´ci od 2 jednadˇzba an + bn = cn nema cjelobrojnih rjeˇsenja, pri ˇcemu su a, b, c, razliˇciti od nule. Preko 350 godina brojni su matematiˇcari, ali i amateri zaljubljenici u matematiku, pokuˇsavali dokazati tu hipotezu. Na taj su naˇcin razvijene mnoge teorije, dobivene ekvivalentne tvrdnje, i poploˇcen put koji je vodio do konaˇcnog dokaza, kojeg su 1994. zavrˇsili Andrew Wiles i Richard Taylor. Ipak dosta otvorenih problema u matematici i drugim znanstvenim podruˇcjima ˇceka rjeˇsenja. Jedan od takvih problema je pozna-
6
1.2. TEHNIKE DOKAZIVANJA U MATEMATICI
ti problem rjeˇsivosti svakog algoritamski rjeˇsivog problema u polinomnom vremenu, odnosno P = N P problem. Medutim, da bi netko uspjeˇsno rjeˇsavao probleme u matematici, ali i s razumijevanjem prihva´cao matematiˇcke teorije koje ´ce koristiti u drugim podruˇcjima istraˇzivanja i rada, nuˇzno je da se upozna s tehnikama dokazivanja u matematici. Dokazivanje u matematici temelji se na matematiˇckoj logici. Osnove matematiˇcke logike mogu se prona´ci primjerice u [4], ali i u drugom poglavlju ove knjige. Nabrojimo osnovne tipove tvrdnji koje susre´cemo u matematici. Tvrdnja ”20 je viˇsekratnik od 5” je jednostavni sud. Budu´ci da je 20 = 4 × 5 znamo da je ovaj sud istinit. Mnoge tvrdnje u matematici jesu sloˇzeni sudovi jer se sastoje od dva ili viˇse sudova povezanih logiˇckim operacijama. Osnovne operacije matematiˇcke logike su konjunkcija (veznik i), disjunkcija (veznik ili) i negacija. Ponovimo njihove vrijednosti istinitosti. Sloˇzeni sud a ∧ b (a i b) je istinit ako i samo ako su oba suda a i b istinita. Sloˇzeni sud a ∨ b (a ili b) je istinit ako je barem jedan od sudova a i b istinit. Negacija ¬a suda a je istinita ako i samo ako je sud a laˇzan. Mnoge matematiˇcke tvrdnje su implikacije, odnosno oblika ako-onda. Sloˇzeni sud a ⇒ b (ako a onda b; a implicira b) je laˇzan samo ako je sud a istinit, sud b laˇzan. Primjer implikacije je sljede´ca tvrdnja. Primjer 1.1 Ako je prirodan broj n djeljiv brojem 6, onda je n djeljiv i brojem 3. Uoˇcite da implikacija nije komutativna operacija tj. ako je istinita implikacija a ⇒ b, tada obratna implikacija b ⇒ a nije nuˇzno istinita. Zadatak 1.1 Izrecite obrat implikacije iz prethodnog primjera i utvrdite je li to istinita tvrdnja. Ako je istovremeno istinito a ⇒ b i b ⇒ a kaˇzemo da su tvrdnje a i b ekvivalentne i piˇsemo a ⇔ b. Evo primjera ekvivalencije. Primjer 1.2 Prirodan broj n je paran ako i samo ako je n2 paran. Dakle, znak ⇔ obiˇcno ˇcitamo ”ako i samo ako” ili ”ekvivalentno”. Pokazuje se da je istinita implikacija a ⇒ b ako i samo ako je istinit obrat suprotne tvrdnje tzv. kontrapozicija. Dakle, tvrdnje a ⇒ b i ¬b ⇒ ¬a su ekvivalentne . Ovu ˇcinjenicu koristimo kod indirektnog dokazivanja. Istaknimo joˇs neke uobiˇcajene oblike matematiˇckih tvrdnji. Postoje tvrdnje koje govore da neˇsto postoji, pa ih nazivamo tvrdnjama o egzistenciji (postojanju). Takva je, na primjer, sljede´ca poznata tvrdnja iz linearne algebre.
POGLAVLJE 1. UVOD
7
Primjer 1.3 Uvijek postoji rjeˇsenje homogenog sustava linearnih jednadˇzbi. U iskazivanju tvrdnji o postojanju koristimo se kvantifikatorom egzistencije ∃, kojeg ˇcitamo ”za neki” ili ”postoji”. Nasuprot tvrdnjama o egzistenciji nalaze se univerzalne tvrdnje, tj. tvrdnje koje se odnose na sve elemente odredenog skupa. Za njihovo izricanje koristimo univerzalni kvantifikator ∀, kojeg ˇcitamo ”za svaki” ili ”za sve”. Evo primjera univerzalne tvrdnje. Primjer 1.4 Za svaki prirodan broj n, broj 3n − 1 je prosti broj. Ova tvrdnja nije istinita. Istinita je, na primjer, tvrdnja: Za svaki prirodan broj n, broj n(n + 1)(n + 2) je djeljiv sa 6. Posebnu paˇznju treba obratiti na ˇcinjenicu kako se operacija negacije odnosi prema kvatifikatorima. Negiramo li univerzalni kvantifikator umjesto njega moˇzemo pisati kvantifikator egzistencije i obrnuto, negacijom kvantifikatora egzistencije dobijemo univerzalni kvantifikator. Objaˇsnjenje moˇzete na´ci u poglavlju ove knjige koje se bavi matematiˇckom logikom, ali i u [4], str. 37.
1.2.2
Dokazivanje matematiˇ ckih tvrdnji
Dokaz predstavlja demonstraciju istinitosti zadane tvrdnje. U matematici ˇcesto treba dokazivati teoreme, propozicije, leme i korolare koji su dani u obliku implikacije A ⇒ B. Ovdje tvrdnju A nazivamo pretpostavka, a tvrdnju B zakljuˇcak. Te su dvije tvrdnje u teoremima i drugim suvislim matematiˇckim tvrdnjama medusobno povezane. Da bismo dokazali istinitost implikacije dovoljno je ispitati ne pojavljuje li se sluˇcaj da istinita pretpostavka vodi do laˇznog zakljuˇcka. Tvrdnja je trivijalno istinita ako je zakljuˇcak istinit. Direktni dokaz implikacije se stoga provodi tako da se uzima da je pretpostavka istinita i temeljem toga pokaˇze da tada i zakljuˇcak mora biti istinit. Ponekad je jednostavnije koristiti dokaz po kontrapoziciji (indirektni dokaz), koji umjesto tvrdnje A ⇒ B dokazuje tvrdnju ¬B ⇒ ¬A. Tvrdnje koje imaju jednake tablice istinitosti su ekvivalentne. Budu´ci se ekvivalencija sastoji od dvije implikacije, kod dokazivanja ekvivalencije provode se dokazi dviju implikacija i ukoliko su obje implikacije istinite, zakljuˇcuje se da je ekvivalencija istinita. U ekvivalentnim tvrdnjama koristimo formulaciju”A ako i samo ako B”, koja oznaˇcava da ”A povlaˇci B” i ”B povlaˇci A”. Primjer 1.5 Dokaˇzimo direktno tvrdnju iz Primjera 1.2. Prvo dokazujemo implikaciju ”Ako je n paran prirodan broj tada je i n2 paran.” Pretpostavka ”n je paran” znaˇci da se n moˇze zapisati kao n = 2k,
8
1.2. TEHNIKE DOKAZIVANJA U MATEMATICI
pri ˇcemu je k neki prirodan broj. Kvadriranjem te jednakosti dobivamo da je n2 = 4k 2 , ˇsto znaˇci da je n2 paran broj. Druga implikacija glasi: ”Ako je n2 paran prirodan broj tada je i n paran.” Ova tvrdnja lagano se dokazuje obratom po kontrapoziciji. Kontrapozicija glasi: ”Ako je n neparan tada je i n2 neparan.” Dokaˇzite za vjeˇzbu tu tvrdnju. U nekim dokazima koristimo dokaz kontradikcijom kao varijaciju dokaza po kontrapoziciji. Pretpostavimo naime da je negacija poˇcetne tvrdnje istinita. Ta pretpostavka zatim vodi do tvrdnje koja je oˇcigledno laˇzna ili je u suprotnosti (kontradikciji) s nekom √ pretpostavkom. Klasiˇcan primjer dokaza kontradikcijom je dokaz da je 2 iracionalan broj. Tvrdnje o egzistenciji nekog objekta dokazuju se tako da se pronade primjer definiranog objekta. Primjer koji pokazuje da vrijedi tvrdnja o postojanju rjeˇsenja homogenog sustava linearnih jednadˇzbi je tzv. trivijalno rjeˇsenje (rjeˇsenje ˇcije su sve komponente rjeˇsenja jednake nuli). Traˇzenje primjera egzistencije nije uvijek jednostavan posao jer postoje matematiˇcke slutnje o postojanju odredenih objekata koje nikada nisu dokazane. Takva je na primjer slutnja da postoje brojevi a, b, c, d takvi da je a4 + b4 + c4 = d4 . Univerzalna tvrdnja se opovrgava tako da se nade protuprimjer , odnosno primjer za koji tvrdnja ne vrijedi. Pronadimo protuprimjer za Primjer 1.4. Za n = 3 broj 3n − 1 je sloˇzeni broj. Poneke tvrdnje se dokazuju provjeravanjem konaˇcnog broja sluˇcajeva (Primjer: Postoji prosti broj izmedu 100 i 115).
1.2.3
Matematiˇ cka indukcija i skup prirodnih brojeva
Matematiˇcka se teorija gradi tako da se prvo utvrdi skup aksioma koji su op´ce prihva´ceni kao istiniti pa se pomo´cu njih dokazuju sloˇzenije tvrdnje. Cilj ovog poglavlja knjige je dati jedan jednostavni primjer izgradnje matematiˇcke teorije. Svima je poznato da su prirodni brojevi oni koje koristimo za prebrojavanje u svakodnevnom ˇzivotu, da je najmanji prirodni broj 1. Ipak ove tvrdnje nisu dovoljne za aksiomatsku definiciju prirodnih brojeva. Tako u aritmetici postoje tzv. Peanovi aksimi, koji postuliraju postojanje prirodnih brojeva tj. skupa N. Evo tih aksioma. Peanovi aksiomi: 1. 1 ∈ N. (Dakle, N nije prazan skup, ve´c sadrˇzi najmanje jedan element.) 2. Za svaki x ∈ N postoji prirodni broj x0 kojeg zovemo sljedbenikom od x. 3. x0 6= 1. (1 nije niˇciji sljedbenik.)
POGLAVLJE 1. UVOD
9
4. x0 = y 0 povlaˇci x = y. ( Razliˇciti prirodni brojevi imaju razliˇcite sljedbenike.) 5. Aksiom indukcije. Neka je M ⊆ N sa sljede´cim svojstvima: 1) 1∈ M, 2) x ∈ M povlaˇci x0 ∈ M. Tada je M = N. Aksiom matematiˇcke indukcije, odnosno princip matematiˇcke indukcije vaˇzno je orude u matematiˇckom dokazivanju. Taj se princip ne smije mijeˇsati s induktivnom metodom u znanosti. Induktivna metoda u znanosti sluˇzi samo za izvodenje op´cih principa iz pojedinaˇcnih sluˇcajeva. Princip matematiˇcke indukcije sluˇzi za dokazivanje tvrdnji koje vrijede za sve prirodne brojeve (osim moˇzda za konaˇcno mnogo njih). Tvrdnje koje se dokazuju matematiˇckom indukcijom ovise o cijelom (prirodnom) broju n. Prikladno je tvrdnju koju dokazujemo oznaˇciti sa P (n) . Princip matematiˇcke indukcije provodi se u dva koraka: 1. Baza indukcije. Treba dokazati da tvrdnja vrijedi za n = 1, tj. da vrijedi P (1) . 2. Korak indukcije. Pretpostavimo da tvrdnja vrijedi za n = k. Treba dokazati da tvrdnja vrijedi za n = k+1. Odnosno, P (k) =⇒ P (k + 1) . Uvijek treba provjeriti oba koraka, jer u suprotnom moˇzemo pogrijeˇsiti i ”dokazati” tvrdnju koja zapravo ne vrijedi (Eulerov primjer, Goldbachova hipoteza). Primjer 1.6 Za sve prirodne brojeve n vrijedi n X i=1
1 i (i + 3) = n (n + 1) (n + 5) . 3
Dokaz. Provjerimo prvo bazu indukcije tj. da tvrdnja vrijedi za n = 1. Imamo 1 (1 + 3) = 13 1 (1 + 1) (1 + 5) , pa baza indukcije vrijedi. Pretpostavimo sada da tvrdnja vrijedi za n = k, tj. da vrijedi Xk i (i + 3) = 13 k (k + 1) (k + 5) . i=1 Upotrebom te pretpostavke treba dokazati da tvrdnja vrijedi za n = k + 1, tj. da vrijedi Xk+1 i (i + 3) = 13 (k + 1) (k + 2) (k + 6) . i=1 Raspisivanjem znaka sumacije na lijevoj strani dobivamo Xk i (i + 3) + (k + 1) (k + 4) . i=1
10
1.2. TEHNIKE DOKAZIVANJA U MATEMATICI
Iskoristimo pretpostavku za sumu na lijevoj strani i imamo 1 1 3 k (k + 1) (k + 5) + (k + 1) (k + 4) = 3 (k + 1) (k + 2) (k + 6) , ˇcime je tvrdnja dokazana. U brojnim situacijama u matematici, ali ne samo u matematici, mogu´ce je na temelju eksperimentiranja na pojedinaˇcnim primjerima do´ci do dobre slutnje, a nakon toga je dokazati upotrebom matematiˇcke indukcije. Medutim, bez ovog drugog koraka, tj. bez matematiˇckog dokaza, ostajemo samo na slutnji, dakle ne znamo da li ona vrijedi za sve sluˇcajeve ili ne. Preporuˇcamo da viˇse o tome, kako slutnja moˇze postati teorem, proˇcitate u [1], str. 35. Istaknimo dvije od mogu´cih modifikacija principa matematiˇcke indukcije. Postoje tvrdnje koje ukljuˇcuju prirodne brojeve, ali ne vrijede za sve njih, nego vrijede za one koji su ve´ci od nekog prirodnog broja n0 . Primjerice, nejednakost n! > 2n je ispunjena za svaki n ≥ 4. Dokaz ove tvrdnje moˇze se provesti pomo´cu matematiˇcke indukcije, samo ˇsto u bazi ispitujemo da li tvrdnja vrijedi za n = 4. Op´cenito se svaka tvrdnja P (n) koja vrijedi za n ≥ n0 , moˇze podvesti pod princip matematiˇcke indukcije tako da se tvrdnja modificira u tvrdnju P (n + n0 − 1) . Zadatak 1.2 Dokaˇzite da vrijedi nejednakost n! > 2n , za svaki n ≥ 4. Matematiˇcku indukciju upotrebljavamo i za rekurzivne definicije razliˇcitih matematiˇckih objekata. Taj oblik matematiˇcke indukcije zovemo jaka matematiˇcka indukcija, iako je ona ekvivalentna ”obiˇcnoj” matematiˇckoj indukciji. Izrecimo je: Neka je P tvrdnja koja ovisi o prirodnom broju n i vrijedi: 1. Tvrdnja P je istinita za neki prirodni broj n0 . 2. Ako je k > n0 prirodni broj i P je istinita za sve prirodne brojeve x, n0 ≤ x ≤ k tada je P istinita i za k + 1. Tada je P istinita za sve prirodne brojeve n ≥ n0 . Dakle, u jakom obliku matematiˇcke indukcije pretpostavljamo da je tvrdnja istinita za sve prirodne brojeve manje od promatranog prirodnog broja i dokazujemo da je onda tvrdnja istinita za promatrani prirodni broj. Nadalje, jaku matematiˇcku indukciju koristimo i kod rekurzivnih definicija, o ˇcemu ´ce biti govora u posebnom poglavlju ove knjige. Vratimo se sada strukturi skupa prirodnih brojeva. Nabrojimo aksiome koji opisuju operacije zbrajanja (oznaka: a+b) i mnoˇzenja prirodnih brojeva (oznaka: a · b ili ab), te odnos relacije < i prirodnih brojeva. Za prirodne brojeve a, b, c vrijedi: 1. a + b ∈ N
(zatvorenost)
POGLAVLJE 1. UVOD 2. a · b ∈ N 3. a + b = b + a 4. (a + b) + c = a + (b + c) 5. a · b = b · a 6. (a · b) · c = a · (b · c)
11 (zatvorenost) (komutativnost) (asocijativnost) (komutativnost) (asocijativnost)
7. Postoji element 1∈ N, takav da je n · 1 = n. 8. Ako je m · x = n · x za neki x ∈ N, tada je m = n. 9. a · (b + c) = (a · b) + (a · c) 10. Za dane prirodne brojeve x, y, z uvijek je istinita samo jedna od sljede´cih tvrdnji x < y, x = y, y < x. Viˇse o relacijama i operacijama na razliˇcitim skupovima saznat ´cete u nastavku ove knjige. U tom kontekstu bit ´ce jasnija i uloga gornjih aksioma koji govore o dvije najvaˇznije operacije na skupu prirodnih brojeva.
1.2.4
Princip dobrog uredaja u skupu N
Na kraju spomenimo da za prirodne brojeve vrijedi tzv. princip dobrog uredaja. Tvrdnja 1.1 Svaki neprazni podskup skupa prirodnih brojeva ima najmanji element. Dokaz. Ova se tvrdnja moˇze dokazati upotrebom principa matematiˇcke indukcije po broju elemenata skupa ˇciji najmanji element traˇzimo. Jasno je da vrijedi baza indukcije jer u skupu, koji se sastoji samo od jednog elementa, taj je element ujedno i najmanji. Nadalje, pretpostavimo da tvrdnja vrijedi za sve skupove od k elementa, tj. da postoji najmanji element u svakom od tih skupova. U koraku indukcije promatramo skupove koji imaju k + 1 elemenata. Pretpostavimo da smo skupu B od k + 1 elemenata odstanili jedan element a i tako dobili skup od k elementa za koji po pretpostavci indukcije znamo da ima najmanji element b. Manji od brojeva a i b je najmanji element skupa B. Dakle, iz principa matematiˇcke indukcije slijedi princip dobrog uredaja. Medutim, vrijedi i obrnuto, tj. upotrebom principa dobrog uredaja moˇzemo dokazati da vrijedi princip matematiˇcke indukcije. Evo dokaza. Pretpostavimo: 1. Tvrdnja P je istinita za prirodni broj n0 .
12
1.3. ZADACI 2. Ako je k > n0 prirodni broj i P je istinita prirodni broj k, tada je P istinita i za k + 1.
Principom dobrog uredaja treba dokazati da je tada P istinita tvrdnja za sve prirodne brojeve n ≥ n0 . Pretpostavimo da P nije istinita za sve n ≥ n0 (tj. postoje prirodni brojevi za koje dana tvrdnja ne vrijedi) i taj skup oznaˇcimo sa A. Tada taj neprazni skup A prirodnih brojeva, po principu dobrog uredaja, ima najmanji element a. Znamo po pretpostavci 1 da je a 6= n0 , pa je a − 1 ≥ n0 , odnosno k = a − 1. Po pretpostavci 2, P je istinita tvrdnja za k + 1, odnosno za a, pa smo ovu tvrdnju dokazali kontradikcijom. Dakle, zakljuˇcujemo da je poˇcetna pretpostavka pogreˇsna ˇsto znaˇci da je P istinita tvrdnja za sve prirodne brojeve n ≥ n0 . Zakljuˇcujemo, princip dobrog uredaja i princip matematiˇcke indukcije su ekvivalentne tvrdnje.
1.3
Zadaci
1. Dokaˇzite sljede´ce tvrdnje: (a) Svaki od brojeva 111, 366, 723 i 1341 djeljiv s 3. (b) Ako je a nemaran prirodan broj i ako je b paran prirodan broj, onda je a − b neparan broj. (c) Ako je a2 neparan onda je i a neparan broj. (d) Broj n je paran ako i samo ako je nn − 2 · n + 1 neparan. (e) Ako 2 dijeli 5n onda je n paran broj. 2. Pokaˇzite da je sud a ⇒ (p ⇒ q) tautologija. 3. Pokaˇzite da je sud (a ∧ b) ∧ (¬a ∨ ¬b) kontradikcija. 4. Pojednostavite sljede´ce izraze: (a) (1 : 0 = ∧(1 < 10), (b) (π < 8) ∧ (π < 6), (c) (e < 4) ∧ (e2 < 9) 5. Odredite istinitost sljede´cih tvrdnji: (a) (π 2 > 2) ⇒ (π > 1, 4), (b) (e2 ≥ 0) ⇒ (e < 0), (c) ¬(6 je cijeli broj⇒ (62 ≥ 1)), (d) ¬(kvadrat ima tri stranice) ⇒ (trokut ima 4 stranice).
POGLAVLJE 1. UVOD
13
6. Neka su m, n ∈ N. Dokaˇzite da je mn neparan ako i samo ako su m i n neparni. 7. Napiˇsite sljede´ce izjave pomo´cu kvantifikatora i standardnih oznaka za skupove brojeva. (a) Jednadˇzba x2 + a = 0 ima realni korijen za svaki realni broj a. (b) Svaki realni broj je racionalni broj. (c) Postoji barem jedan iracionalan broj, (d) Postoji najmanji prirodan broj. Koje su od gornjih izjava istinite? 8. Napiˇsite negacije izjava iz prethodnog zadatka. 9. Koje su tvrdnje istinite? Univerzum razmatranja je zapisan u zagradama. (a) ∀x(x − 1 ≤ x)
(R).
(b) ∃x(x + 3 = 2x − 1) (c)
∃!x(x2
= 2)
(d) ∀x∃!y(y = x2 )
(N).
(R). (R).
x2 )
(e) ∀x∃!y(y = (N). √ 10. Dokaˇzite da je 3 iracionalan broj. 11. Dokaˇzite da ako je n ∈ N tada je barem jedan od brojeva n, n +2, n + 4 djeljiv s 3. 12. Zadana je tvrdnja T . T
:=
”Ako je n kvadrat parnog prirodnog broja tada je n suma dva uzastopna neparna prirodna broja.”
(a) Pokaˇzite da je T istinita tvrdnja upotrebljavaju´ci konstrukciju temeljenu na sljede´cim primjerima: 42 = 7 + 9, 62 = 17 + 19, 82 = 31 + 33, 102 = 49 + 51. (b) Napiˇsite ¬T . (c) Napiˇsite kotrapozitivnu tvrdnju tvrdnji T . Je li ona istinita? 13. Upotrebom matematiˇcke indukcije dokaˇzite sljede´ce tvrdnje: (a) n3 − 2n je djeljiv s 3. (b) an − bn je djeljiv s a − b za sve a, b ∈ Z i a − b 6= 0. n P k(k + 1)(k + 2) = 14 n(n + 1)(n + 2)(n + 3). (c) k=1
14
1.3. ZADACI (d) Za svaki x ∈ R, x 6= ±1 i n ≥ 1 vrijedi
n Q
k
(1 + x2 ) =
k=1
k+1
1−x2 1−x2
.
14. Pomo´cu matematiˇcke indukcije pokaˇzite da ako je a1 = 1, a2 = 5 i an+1 = 5an − 6an−1 za n ≥ 2 tada je an = 3n − 2n za svaki n ∈ N. 15. Za svaki od sljede´cih skupova nadite najmanji i najve´ci element, ukoliko oni postoje: (a) A = {n ∈ N : n2 ≤ 52} (b) B = {n ∈ N : n2 ≤ 100n} (c) C = {n ∈ N : n je viˇsekratnik broja 4} (d) D = {n ∈ N : n je prost broj} 16. Neka su S1 i S2 podskupovi skupa N. Nadalje, neka je m1 , odnosno m2 najmanji element u S1 , odnosno S2 , te neka je M1 , odnosno M2 ˇ znamo o najmanjem, odnosno najve´ci element u S1 , odnosno S2 . Sto najve´cem elementu skupova S1 ∪ S2 i S1 ∩ S2 ?
Bibliografija [1] Biggs, N. L.: Discrete Mathematics, Oxford University Press Inc., New York, 2002. ˇ Povijest ideja i metoda u matematici i fizici, Skolska ˇ [2] Dadi´c, Z.: knjiga, Zagreb, 1992. [3] Devlin, K.: Language of Mathematics, W. H. Freeman and Co., New York, 2000 [4] Divjak, B.; Hunjak, T.: Matematika za informatiˇcare, TIVA-FOI, Varaˇzdin, 2004. [5] Gowers, T.: Mathematics, A Very short Introduction, Oxford University Press, Oxford, 2002. [6] Hoffmann, L. D.; Bradley, G. L.: Finite mathematics with Calculus, McGraw-Hill, Inc., New York, 1995. [7] Keller, S.-McNulty; Wilson, A. G.; Wilson, G.: The Impact of Technology on the Scientific Method, submitted to: Science Compass, LA-UR01-5739 [8] Kerzner, H.: Project Management, a Systems Approach to Planning, Scheduling and Controlling, John Wiley and Sons Inc., New York, 2003. ˇ [9] Mintakovi´c, S.: Neeuklidska geometrija Lobaˇcevskog,Skolska knjiga, Zagreb, 1972. ˇ c, Z.: Kako je stvarana novovijekovna matematimka, Skolska ˇ knjiga, [10] Siki´ Zagreb, 1989.
15
16
BIBLIOGRAFIJA
Poglavlje 2
Matematiˇ cka logika Pretpostavimo da je pronadena kontradikcija u aksiomima teorije skupova. Da li ozbiljno vjerujete da bi se most mogao sruˇsiti? Frank Ramsey Logika je jedna od najstarijih, sustavno prouˇcavanih znanstvenih disciplina. Ona predstavlja formalizaciju znanstvenog razmiˇsljanja i osigurava njegovu valjanost. Njeni poˇceci seˇzu do Aristotela i drugih grˇckih filozofa. Upravo se radovi Aristotela u 4 st. p. K. smatraju temeljima logike kao znanstvene discipline. On je napisao knjigu o logici koju je nazvao Organon (Oργανoν), ˇsto znaˇci orude. Dakle, ve´c je Aristotel gledao na logiku kao na glavno orude znanstvenika, na alat koji znanstveniku omogu´cuje njegov rad, odnosno pronalaˇzenje znanstvenih spoznaja. Uz tu se knjigu veˇze prvo javljanje pojmova hipoteze, aksioma, teorema i dokaza, kao osnovnih gradevnih elemeSlika 2.1: Aristotel nata logike. Takoder, Aristotel uvodi tehnike induktivnog i deduktivnog dokazivanja, te tzv. Aristotelove forme, koje pokrivaju sve elementarne logiˇcke izjave. Matematiˇcka logika predstavlja formalizaciju logike te se posebno bavi matematiˇckim razmiˇsljanjem i dokazivanjem. Poˇceci razvoja matematiˇcke logike seˇzu u 18. st. do dublinskog biskupa Richarda Whatleya, koji se smatra zaˇcetnikom matematiˇcke logike. Prve znaˇcajne rezultate u matematiˇckoj logici objavili su u 19. stolje´cu George Boole, Augustus De Morgan i Ernst Schr¨oder. Veliki interes za matematiˇcku logiku izazvao je 20-tih godina 20. st. Bertrand Russel (1872-1970) objavljivanjem svojih poznatih paradoksa regularnog svojstva, do kojih je dovelo egzistencijalistiˇcko, nekonstruktivno 17
ˇ 2.1. RACUN SUDOVA
18
definiranje kakvo se koristilo prije toga u matematici. Otkrivanje paradoksa u mnogim matematiˇckim aksiomatikama dovelo je do revizije pojmova u tim matematiˇckim disciplinama. Tako su revidirane matematiˇcke teorije kao ˇsto su teorija skupova, algebra itd. U 20. st. vaˇznije su rezultate dali Albert Thorlaf Skolem, Bertrand Russel, Alfred North Whitehead, a za informatiˇcare su posebno interesantni rezultati koje je dao Alan Turing, koji se intenzivno bavio definiranjem intuitivnog pojma algoritma, te dao jedan od najpoznatijih logiˇckih modela algoritma - Turingov stroj. O tome ´cemo viˇse govoriti u posljednjem poglavlju ove knjige.
2.1
Raˇ cun sudova
Raˇcun sudova ili propozicijska logika je jednostavan logiˇcki jezik koji se sastoji od sudova koji su povezani pomo´cu logiˇckih veznika ¬, ∨, ∧, →, ↔.
2.1.1
Sintaksa
Definicija 2.1 (Jezik) Jezik L raˇcuna sudova sastoji se od: 1. najviˇse prebrojivog skupa1 A propozicijskih varijabli ili atoma A, B, C, . . ., 2. veznika ¬, ∨, ∧, →, ↔, 3. zagrada }, {, ], [, ), (. Definicija 2.2 (Sud) 1. Svaka propozicijska varijabla je sud. 2. Ako je F sud, onda je i ¬F sud. 3. Ako su F i G sudovi, onda je i (F ΘG), Θ ∈ {∨, ∧, →, ↔} takoder sud. 4. Sudovi su samo oni izrazi koji se mogu dobiti konaˇcnim brojem uzastopnih primjena pravila 1-3. Primjer 2.1 Neka su A, B, C propozicijske varijable. Tada su sljede´ci izrazi sudovi: • (A ∨ (B ∧ ¬C)), • ((A → B) ↔ (¬A ∨ B)), • (C ↔ (A ∧ ¬B)). 1
Za skup kaˇzemo da je prebrojiv ako je konaˇcan ili bijektivan s N
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
19
Na kraju ovog podpoglavlja treba re´ci nekoliko rijeˇci o zagradama. Zagrade se u logici smatraju pomo´cnim simbolima koji osiguravaju jednoznaˇcnost formula. U klasiˇcnom su naˇcinu zapisivanja formula zagrade nuˇzne, ˇ jer bez njih sudovi ne bi bili jednoznaˇcni. Cak i ako se uvede prioritet logiˇckih operatora, kao ˇsto to neki logiˇcari ˇcine, zagrade se ne mogu u potpunosti izbaciti. Postoje, s druge strane, notacije koje osiguravaju jednoznaˇcnost formula bez upotrijebe zagrada i bez definiranja prioriteta logiˇckih veznika. Jedna je takva notacija postfiksna notacija ili obrnuta poljska notacija. Naˇzalost, iako su takve notacije bolje sa stajaliˇsta jedinstvenosti formula, one su neuobiˇcajene za ljude nenaviknute na njih, pa se rijetko koriste. Ipak, u prethodnoj definiciji formule se zadaju tako da je svaki izraz okruˇzen zagradama. No, sve te zagrade nisu potrebne. Postoje sluˇcajevi kada zagrade ne doprinose jednoznaˇcnosti formule i kada se neke njene zagrade izostave. U tom se sluˇcaju zagrade, koje ne doprinose jednoznaˇcnosti suda, tj. zagrade koje nisu potrebne i bez kojih sud ostaje jednako jasan, izostaviti. Tako se npr. uvijek izostavljaju zagrade koje okruˇzuju cijeli sud.
2.1.2
Semantika
U proˇslom smo poglavlju objasnili kako se tvore jeziˇcni konstrukti jezika raˇcuna sudova. Ovdje ´cemo opisati njihovo znaˇcenje, odnosno semantiku. Definicija 2.3 Neka je definirano proizvoljno preslikavanje i : A → {⊥, >}. Interpretacija je proˇsirenje preslikavanja i na skup svih sudova S definirano na sljede´ci naˇcin: Neka su F, G ∈ S sudovi. Tada vrijede sljede´ce tvrdnje: • i(¬F ) = > ako i samo ako je i(F ) = ⊥, • i(F ∨ G) = ⊥ ako i samo ako je i(F ) = ⊥ i i(G) = ⊥, • i(F ∧ G) = > ako i samo ako je i(F ) = > i i(G) = >, • i(F → G) = ⊥ ako i samo ako je i(F ) = > i i(G) = ⊥, • i(F ↔ G) = > ako i samo ako je i(F ) = i(G). Primjer 2.2 Neka je zadana interpretacija s i(A) = ⊥, i(B) = ⊥, i(C) = ⊥. Treba izraˇcunati istinosnu vrijednost za sudove iz primjera 2.1. • i(¬C) = >, pa je i(B ∧ ¬C) = ⊥, i na kraju i(A ∨ (B ∧ ¬C)) = ⊥ • i(A → B) = >. Isti tako je i(¬A) = >, pa je u i(¬A ∨ B) = >. Dakle i((A → B) ↔ (¬A ∨ B)) = >. • i(¬B) = >, pa je i(A ∧ ¬B) = ⊥. Iz toga je i(C ↔ (A ∧ ¬B)) = >. Sljede´ci vaˇzan pojam, koji treba definirati, jest pojam logiˇcke posljedice.
ˇ 2.1. RACUN SUDOVA
20
Definicija 2.4 Sud G je logiˇcka posljedica skupa sudova F = {F1 , . . . , Fn }, ˇsto se piˇse F |= G ili F ⇒ G ako za svaku interpretaciju za koju vrijedi i(Fi ) = > za svaki Fi ∈ F vrijedi i i(G) = >. Primjer 2.3 Pokaˇzimo da je sud B logiˇcka posljedica skupa sudova {A → B, A}. Pretpostavimo da vrijedi i(A → B) = > i i(A) = >. Kada bi bilo i(B) = ⊥, onda bi, zbog i(A → B) = >, iz definicije 2.3 slijedilo da je i(A) = ⊥, a to je u suprotnosti s pretpostavkom da je i(A) = >. Dakle, zakljuˇcujemo da je i(B) = >. Uz pojam logiˇcke posljedice usko je vezan joˇs jedan semantiˇcki pojam – pojam logiˇcke ekvivalencije. Definicija 2.5 Sudovi F i G su logiˇcki ekvivalentni, ˇsto zapisujemo F ≡ G ili F ⇔ G, ako za svaku interpretaciju i vrijedi da je i(F ) = i(G). Iz definicije pojma logiˇcke ekvivalencije proizlazi sljede´ca karakterizacija logiˇcke ekvivalencije: Propozicija 2.1 F ≡ G ako i samo ako vrijedi da je F |= G i G |= F . Dokaz. Napravite sami za vjeˇzbu. Nadalje, iz definicije 2.3 lako se vidi da su operacije ∨, ∧ i ↔ komutativne. Takoder se vidi da za ∨ i ∧ vrijedi svojstvo asocijativnosti. Nadalje, lagano se vidi da vrijede svojstva distributivnosti veznika ∨ prema vezniku ∧ i obrnuto, distributivnosti veznika ∧ prema vezniku ∨. Sve to i joˇs neke ˇcinjenice koje slijede iz definicije 2.3 sadrˇzane su u sljede´coj propoziciji: Propozicija 2.2 Za proizvoljne sudove F, G i H vrijedi 1. F ∨ F ≡ F
(idempotentnost)
2. F ∧ F ≡ F
(idempotentnost)
3. F ∨ G ≡ G ∨ F
(komutativnost)
4. F ∧ G ≡ G ∧ F
(komutativnost)
5. F ∨ (G ∨ H) ≡ (F ∨ G) ∨ H
(asocijativnost)
6. F ∧ (G ∧ H) ≡ (F ∧ G) ∧ H
(asocijativnost)
7. F ∨ (G ∧ H) ≡ (F ∨ G) ∧ (F ∨ H)
(distributivnost)
8. F ∧ (G ∨ H) ≡ (F ∧ G) ∨ (F ∧ H)
(distributivnost)
9. F ∨ ¬F ≡ >
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
21
10. F ∧ ¬F ≡ ⊥ 11. F ∨ > ≡ > 12. F ∨ ⊥ ≡ F 13. F ∧ > ≡ F 14. F ∧ ⊥ ≡ ⊥ 15. ¬¬F ≡ F
(dvostruka negacija)
16. ¬(F ∨ G) ≡ ¬F ∧ ¬G
(de Morganov zakon)
17. ¬(F ∧ G) ≡ ¬F ∨ ¬G
(de Morganov zakon)
18. F ∧ (G ∨ H) ≡ (F ∧ G) ∨ (F ∧ H)
(distributivnost)
19. F ∨ (G ∧ H) ≡ (F ∨ G) ∧ (F ∨ H)
(distributivnost)
20. F → G ≡ ¬G ∨ F 21. F ↔ G ≡ (F ∧ G) ∨ (¬F ∧ ¬G) 22. F ↔ G ≡ (¬F ∨ G) ∧ (F ∨ ¬G) Dokaz. Napravite sami. Definirali smo pojam logiˇcke posljedice, no koriste´ci samo tu definiciju, ponekad nije lako odrediti je li neka formula logiˇcka posljedica nekog skupa formula ili nije. Sre´com, postoje tzv. karakterizacije logiˇcke posljedice koje nam omogu´cuju da problem logiˇcke posljedice svedemo na problem tautologiˇcnosti, odnosno antitautologiˇcnosti logiˇcke formule, ˇsto predstavlja problem koji je mnogo lakˇse rijeˇsiti. No, prije no ˇsto to izvedemo, treba definirati joˇs nekoliko pojmova. Sud F je tautologija ako je i(F ) = > za svaku interpretaciju i. Ako je sud F laˇzan u svakoj interpretaciji i, onda se on naziva antitautologija. Za sud koji nije antitautologija, tj. za koji postoji bar jedna interpretacija i takva da je i(F ) = >, kaˇze se da je ispunjiv . Za sud koji nije tautologija, odnosno za koji postoji interpretacija i u kojoj je i(F ) = ⊥ kaˇze se da je otklonjiv ili da nije ispunjiv. Teorem 2.1 (1. karakterizacija pojma logiˇ cke posljedice) Sud G je logiˇcka posljedica skupa sudova F = {F1 , . . . , Fn } ako i samo ako je sud (F1 ∧ . . . ∧ Fn ) ∧ ¬G antitautololgija. Dokaz. Neka je F |= G. Ako u interpretaciji i ne vrijedi da je i(Fk ) = > za neki Fk ∈ F, onda tvrdnja trivijalno vrijedi. Naime, u svakoj je interpretaciji i koja ne zadovoljava gore napisani uvjet i(F1 ∧ . . . ∧ Fn ) = ⊥, pa je i i((F1 ∧ . . . ∧ Fn ) ∧ ¬G) = ⊥.
22
ˇ 2.1. RACUN SUDOVA
Pretpostavimo stoga da je i interpretacija takva da je i(Fk ) = > za svaki Fk ∈ F. No, prema definiciji 2.4 onda mora biti i i(G) = >. Ali, onda je prema definiciji 2.3 i(¬G) = ⊥, pa je i i((F1 ∧ . . . ∧ Fn ) ∧ ¬G) = ⊥. Prema tome, u svakoj je interpretaciji i((F1 ∧ . . . ∧ Fn ) ∧ ¬G) = ⊥, odnosno (F1 ∧ . . . ∧ Fn ) ∧ ¬G je antitautologija. Obrnuto, neka je (F1 ∧ . . . ∧ Fn ) ∧ ¬G antitautologija. Pretpostavimo da je i interpretacija takva da je i(Fk ) = > za svaki Fk ∈ F. Ako takva interpretacija ne postoji, onda je tvrdnja da je G logiˇcka posljedica od F trivijalno ispunjena. Dakle, neka je i takva interpretacija. Tada je i(F1 ∧ . . . ∧ Fn ) = >. No, kako je (F1 ∧ . . . ∧ Fn ) ∧ ¬G, antitautologija, onda, prema definiciji 2.3 i(¬G) mora biti ⊥. No, onda je, opet prema definiciji 2.3 i(G) = >. Kako to vrijedi za svaku interpretaciju za koju je i(Fk ) = > za svaki Fk ∈ F, zakljuˇcujemo da je G logiˇcka posljedica od F. Teorem 2.2 (2. karakterizacija pojma logiˇ cke posljedice) Sud G je logiˇcka posljedica skupa sudova F = {F1 , . . . , Fn } ako i samo ako je sud (F1 ∧ . . . ∧ Fn ) → G tautololgija. Dokaz. Neka je F |= G. Ako je i interpretacija takva da ne vrijedi i(Fk ) = > za svaki Fk ∈ F, onda za svaku intepretaciju i vrijedi i(F1 ∧ . . . ∧ Fn ) = ⊥, pa onda, prema definiciji 2.3, vrijedi i((F1 ∧ . . . ∧ Fn ) → G) = >. Neka vrijedi i(Fk ) = > za svaki Fk ∈ F. Tada, zbog pretpostavke da je G logiˇcka posljedica od F mora biti i(G) = >. No, onda je, prema definiciji 2.3 i((F1 ∧ . . . ∧ Fn ) → G) = >. Dakle, u svakom sluˇcaju je i((F1 ∧ . . . ∧ Fn ) → G) = >, pa je (F1 ∧ . . . ∧ Fn ) → G tautologija. Obrnuto, neka je (F1 ∧ . . . ∧ Fn ) → G tautologija. Ako ne postoji intepretacija u kojoj je i(Fk ) = > za svaki Fk ∈ F, onda trivijalno slijedi da je G logiˇcka posljedica od F. Neka je, stoga, i takva interpretacija. U njoj je, prema definiciji 2.3 i(F1 ∧. . .∧Fn ) = >. Kako je sud (F1 ∧. . .∧Fn ) → G) po pretpostavci tautologija, onda prema definiciji 2.3 i(G) mora biti >. Dakle, G je logiˇcka posljedica od F. Sliˇcno se moˇze postaviti i karakterizacija pojma logiˇcke ekvivalencije: Teorem 2.3 (Karakterizacija pojma logiˇ cke ekvivalencije) Dva suda F i G su logiˇcki ekvivalentni ako i samo ako je sud F ↔ G tautologija. Dokaz. Izvedite sami. Formalni sustavi Semantiˇcki izvodi, poput izvoda u primjeru 2.3, mogu biti sloˇzeni i teˇski. Stoga se uvode formalni sustavi za izvodenje, koji se sastoje od pravila izvoda, koja iz sudova izvode njihove logiˇcke posljedice.
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
23
Ovdje ´cemo prikazati dva sustava: jedan koji se temelji na klasiˇcnom matematiˇckom izvodenju, i drugi koji je posebno pogodan za dedukciju pomo´cu raˇcunala. Prvi sustav, koji se naziva F -sustav , sastoji se od osam pravila izvoda po dva pravila za svaki veznik. Za svaki veznik se definira pravilo uvodenja i eliminacije. Ovaj se sustav joˇs naziva i sustav prirodne dedukcije jer se njegovi aksiomi temelje na standardnim logiˇckim pravilima zakljuˇcivanja. Takoder, ovaj je sustav ponekad referiran kao Fitchov sustav , prema ameriˇckom logiˇcaru Frederichu Fitchu, koji je prvi formalizirao ovaj sustav, povode´ci se za prirodnim pravilima dedukcije, koje matematiˇcari koriste u svojoj praksi. Pravila izvoda se u F-sustavu mogu prikazati grafiˇcki. Prva dva pravila se odnose na konjunkciju. Prvo od njih je pravilo uvodenja konjunkcije (∧ Intro). F1 ⇓ Fn .. . ⇒
F1 ∧ . . . ∧ Fn
Drugo je pravilo eliminacije konjunkcije (∧ Elim) F1 ∧ . . . ∧ Fn .. . ⇒
Fi
Oba ova pravila su jasna i jednostavna. Sljede´ca dva pravila bit ´ce pravila vezana uz disjunkciju. No, prije nego ih iskaˇzemo, moramo uvesti pojam poddokaza. Poddokaz je segment unutar dokaza, koji uz dodatne uvjete dokazuje odredenu tvrdnju. Treba joˇs jednom naglasiti da se tvrdnje unutar poddokaza izvode uz dodatne uvjete, koji op´cenito ne moraju vrijediti. Stoga tvrdnje koje su dokazane unutar poddokaza takoder ne moraju vrijediti op´cenito. Zbog toga koriˇstenje tvrdnji dokazanih u poddokazu izvan poddokaza nije dozvoljeno, osim ako to pravilo izvoda izriˇcito ne nalaˇze. Jedno takvo pravilo koje omogu´cuje koriˇstenje tvrdnje dokazane u poddokazu izvan samog poddokaza jest pravilo eliminacije disjunkcije. Uvodenje disjunkcije (∨ Intro) Fi .. . ⇒
F1 ∨ . . . ∨ Fn
Eliminacija negacije (¬ Elim)
ˇ 2.1. RACUN SUDOVA
24 F1 ∨ . . . ∨ Fn F1 .. . S ⇓ Fn .. . S
⇒ S Pravilo eliminacije disjunkcije zahtjeva dodatno objaˇsnjenje. Naime, kao ˇsto je ve´c reˇceno, F sustav slijedi standardne matematiˇcke tehnike dokazivanja. Neka pravila su samo koraci u direktnom dokazivanju. Takva su pravila uvodenje i eliminacija konjunkcije te uvodenje disjunkcije. Druga opet pravila predstavljaju strategije dokazivanja. Takvo je pravilo eliminacija disjunkcije. Pravila koja predstavljaju strategije dokazivanja imaju u matematici i druge nazive, koji su ve´c spomenuti u poglavlju 1.2, gdje se ono zove dokaz podjelom na sluˇcajeve. Sada ´cemo uvesti dva pravila koja se odnose na negaciju. Uvodenje negacije (¬ Intro) F .. . G ∧ ¬G ⇒ ¬F Eliminacija negacije (¬ Elim) ¬¬F1 .. . ⇒ F Elimincija negacije je joˇs jedno pravilo koje predstavlja jednostavan korak direktnog dokaza. S druge strane, uvodenje negacije je joˇs jedna, moˇzda ˇcak i najˇceˇs´ce koriˇstena, strategija dokazivanja - dokazivanje obaranjem suprotnog ili dokazivanje svodenjem na kontradikciju, ili pak na latinskom reductio ab absurdum. Na kraju, ostali su nam kondicional i bikondicional. Uvodenje kondicionala (→ Intro) F .. . G ⇒ F →G Eliminacija kondicionala (→ Elim)
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
25
F →G F .. . ⇒ G Uvodenje kondicionala je osnovna strategija dokazivanja sudova koji imaju kauzalnu formu, tj. koje sadrˇze kondicional. S druge strane, eliminacija kondicionala je samo korak u dokazivanju. Pravilo eliminacije kondicionala ima, medutim, znaˇcajnu ulogu u mnogim logiˇckim sustavima, posebno sustavima koji se koriste u klasiˇcnoj logici. Zato ima i posebno ime modus ponens, ˇsto u prijevodu znaˇci ”metoda potvrdivanja”. Uvodenje bikondicionala (↔ Intro) F .. . G G .. . F ⇒ F ↔G Eliminacija bikondicionala (↔ Elim) F ↔G F .. . ⇒ G Sliˇcno kao ˇsto je reˇceno za uvodenje kondicionala, uvodenje bikondicionala je osnovna strategija dokazivanja reˇcenica koje sadrˇze bikondicional. Definicija 2.6 Neka je F skup sudova i neka je G sud. Tada se niz sudova G1 , . . . , Gn : G naziva izvod suda G iz skupa sudova F pomo´cu formalnog sustava S ako za svaki i = 1, . . . , n vrijedi jedna od sljede´cih tvrdnji • Gi ∈ F, • postoje j1 , . . . , jk ≤ i takvi da je Gi dobiveno primjenom nekog pravila izvoda iz sustava S na sudove Gj1 , . . . , Gjk . Sud G je izvediv iz F pomo´cu sustava S ako postoji izvod suda G iz F pomo´cu formalnog sustava S. To se oznaˇcava sa F `S G Za izvodenje svakog formalnog sustava bitne su dvije stvari. Prva je da je sustav korektan. To znaˇci da sve ˇsto se pomo´cu sustava moˇze izvesti jest logiˇcka posljedica onoga iz ˇcega je izvedeno. Drugim rijeˇcima, da iz F `S G slijedi F |= G. Druga stvar, koja je jednako bitna, jest potpunost sustava. Tu se radi o tome da iz F |= G mora slijediti F `S G, odnosno da sustav mora biti u stanju dokazati svaku logiˇcku posljedicu zadanih pretpostavki.
ˇ 2.1. RACUN SUDOVA
26
Teorem 2.4 Neka je F skup sudova i neka je G sud. Tada vrijedi: • Ako je F `F G onda je F |= G. • Ako je F |= G onda je F `F G. Dakle, F sustav je korektan i potpun. Dokaz ovog teorema je priliˇcno dugaˇcak, pa ´cemo ga preskoˇciti. U projektima vezanim uz ovo poglavlje postoji i projekt dokazivanja ovog teorema. Dajmo sada nekoliko primjera dokazivanja pomo´cu ovog sustava. Primjer 2.4 Dokaˇzimo da iz A i ¬A slijedi B. 1. A 2. ¬A 3. ¬B (∧ Intro: 1,2) 4. A ∧ ¬A 5. ¬¬B (¬ Intro: 3-4) 6. B (¬ Elim: 5) Primjer 2.5 Dokaˇzimo pravilo modus tollens (metoda opovrgavanja), odnosno da iz A → B i ¬B slijedi ¬A. 1. A → B 2. ¬B 3. A 4. B (→ Elim: 1,3) 5. B ∧ ¬B (∧ Intro: 4,1) 6. ¬A (¬ Intro: 3-5) Primjer 2.6 Dokaˇzimo joˇs pravilo distributivnosti disjunkcije prema konjunkciji. Za to su potrebna dva smjera dokaza, tj. treba iz F ∨ (G ∧ H) dokazati (F ∨ G) ∧ (F ∨ H) i obrnuto. 1. F ∨ (G ∧ H) 2. F 4. F ∨ G (∨ Intro: 2) (∨ Intro: 2) 5. F ∨ H (∧ Intro: 4,5) 6. (F ∨ G) ∧ (F ∨ H) 7. G ∧ H 8. G 9. F ∨ G 10. H 11. F ∨ H 12. (F ∨ G) ∧ (F ∨ H) 13. (F ∨ G) ∧ (F ∨ H)
(∧ (∨ (∧ (∨ (∧ (∨
Elim: Intro: Elim: Intro: Intro: Intro:
7) 8) 7) 10) 9,11) 1,2-6,7-12)
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
27
Drugi sustav za dokazivanje koji ´cemo ovdje obraditi, a koji je posebno pogodan za automatsku dedukciju, naziva se rezolucijski postupak. On je posebno pogodan za automatsku dedukciju jer se sastoji od jednog jedinog pravila izvoda – pravila rezolucije. F ∨A G ∨ ¬A .. . ⇒ F ∨G Da bi se koristio rezolucijski izvod, prvo je potrebno pretpostavke zamijeniti ekvivalentnim sudovima u konjunktivnoj normalnoj formi. Definicija 2.7 Neka je A atom. Tada se sudovi A i ¬A nazivaju literali . Pri tome je A pozitivni, a ¬A negativni literal. Neka su L1 , . . . , Lk literali. Tada se sud L1 ∨ . . . ∨ Lk naziva disjunkt. Neka su D1 , . . . , Dn disjunkti. Tada se za sud D1 ∧ . . . ∧ Dn kaˇze da je u konjunktivnoj normalnoj formi. Teorem 2.5 Za svaki sud raˇcuna sudova postoji logiˇcki ekvivalentan sud u konjunktivnoj normalnoj formi. Umjesto dokaza ovdje ´cemo opisati kako se za zadanu formulu konstruira ekvivalentan sud u konjunktivnoj normalnoj formi. U propoziciji 2.2 dane su ekvivalencije ˇcijim se koriˇstenjem svaki sud raˇcuna sudova moˇze prevesti u ekvivalentan sud u konjunktivnoj normalnoj formi. Uz opis koraka dat ´cemo i primjer kako se pojedini koraci konkretno provode. Primjer 2.7 Kao primjer uzet ´cemo sud (A ↔ B) ∧ ¬(A → (B ∧ ¬C)). 1. Prvo se pomo´cu posljednja tri pravila opisana u propoziciji 2.2 eliminiraju svi kondicionali i bikondicionali koji se pojavljuju u sudu i zamijenjuju se konjunkcijama, disjunkcijama i negacijama. (A ↔ B)∨¬(A → (B∧¬C)) ≡ ((A∨¬B)∧(¬A∨B))∧¬(¬A∨(B∧¬C)) 2. Nakon toga se koriste de Morganovi zakoni i pravilo dvostruke negacije kako bi se eliminirale negacije koje djeluju na sloˇzenim sudovima. Naime, u konjunktivnoj normalnoj formi negacije djeluju samo na atomima. ((A ∨ ¬B) ∧ (¬A ∨ B)) ∨ ¬(¬A ∨ (B ∧ ¬C)) ≡ ((A ∨ ¬B) ∧ (¬A ∨ B)) ∨ (¬¬A ∧ ¬(B ∧ ¬C)) ≡ ((A ∨ ¬B) ∧ (¬A ∨ B)) ∨ (A ∧ ¬(B ∧ ¬C)) ≡ ((A ∨ ¬B) ∨ (¬A ∨ B)) ∧ (A ∧ (¬B ∨ ¬¬C)) ≡ ((A ∨ ¬B) ∨ (¬A ∨ B)) ∧ (A ∧ (¬B ∨ C))
ˇ 2.1. RACUN SUDOVA
28
3. Na kraju se primjenom pravila distributivnosti i asocijativnosti sud prevodi u konjunktivnu normalnu formu. ((A ∨ ¬B) ∧ (¬A ∨ B)) ∨ (A ∧ (¬B ∨ C)) ≡ ((A ∨ ¬B) ∨ (A ∧ (¬B ∨ C))) ∧ ((¬A ∨ B) ∨ (A ∧ (¬B ∨ C))) ≡ (((A ∨ ¬B) ∨ A) ∧ ((A ∨ ¬B) ∨ (¬B ∨ C))) ∧(((¬A ∨ B) ∨ A) ∧ ((¬A ∨ B) ∨ (¬B ∨ C))) ≡ (A ∨ ¬B ∨ A) ∧ (A ∨ ¬B ∨ ¬B ∨ C) ∧ (¬A ∨ B ∨ A) ∧ (¬A ∨ B ∨ ¬B ∨ C) Nakon ˇsto se prevede u konjunktivnu normalnu formu, sud se moˇze, primjenom pravila idempotencije, komutativnosti te pravila 9-14 iz propozicije 2.2 dodatno urediti. Tako se, npr., u drugom disjunktu suda iz primjera nalazi fragment ¬B ∨ ¬B, ˇsto se prema idempotenciji mijenja s ¬B, a u ˇcetvrtom disjunktu se B ∨ ¬B prema pravilu 9 mijenja s >, zbog ˇcega se cijeli ˇcetvrti disjunkt, prema pravilu 11, mijenja s >, a onda se, prema pravilu 13, moˇze u potpunosti ukloniti iz suda. Takoder, primjenom pravila komutativnosti i idempotencije prvi disjunkt se pretvara u A ∨ B, dok se primjenom pravila komutativnosti te pravila 9 i 11 tre´ci disjunkt pretvara u >, nakon ˇcega se zbog pravila 14 moˇze ukloniti iz suda. Nakon toga ´ce formula izgledati ovako: (A ∨ ¬B) ∧ (A ∨ ¬B ∨ C). Sada, kad smo iznijeli naˇcin pretvaranja suda u konjunktivnu normalnu formu, moˇzemo opisati postupak dokazivanja pomo´cu rezolucijskog pravila. Prije nego ˇsto se krene u sam izvod, potrebno je urediti pretpostavke i zakljuˇcak koji ˇzelimo dokazati. Kod rezolucijskog postupka nikada se zakljuˇcak ne dokazuje izravno, ve´c se uvijek obara njegova negacija. Stoga je, prije svega, potrebno negirati zakljuˇcak koji ˇzelimo dokazati. Nakon toga se sve pretpostavke i zakljuˇcak pretvaraju u konjunktivnu normalnu formu. Time se dobija skup sudova u konjunktivnoj normalnoj formi, koji se sastoji od pretpostavki i negacije zakljuˇcka. Lako je dokazati da vrijedi {A, B} ≡ {A ∧ B}. Stoga se svaki sud u konjunktivnoj normalnoj formi u skupu moˇze zamijeniti s jednim ili viˇse sudova, koji su po svom obliku disjunkti. Na tako dobiven skup disjunkata se primijenjuje pravilo rezolucije, u ˇzelji da se iz skupa izvede prazan disjunkt. Prazan disjunkt ili refutacija oznaˇcava se s ⊥ i predstavlja antitautologiju. Dobije li se refutacija, negacija je zakljuˇcka oborena, a zakljuˇcak je dokazan. Da bi se ovaj postupak mogao koristiti potrebno je imati sljede´ci teorem: Teorem 2.6 Rezolucijski postupak je potpun i korektan za raˇcun sudova.
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
29
Primjer 2.8 Dokaˇzimo rezolucijom da iz A i ¬A slijedi B. Zakljuˇcak se negira i dobije se ¬B. Svi su sudovi ve´c u konjunktivnoj normalnoj formi, pa moˇzemo krenuti na rezolucijski izvod: 1. A 2. ¬A 3. ¬B 4. ⊥ (Res: 1,2) Primjer 2.9 Dokaˇzimo pravilo modus tollens, odnosno da iz A → B i ¬B slijedi ¬A. Negacija zakljuˇcka je ¬¬A, odnosno A. Prvi se sud pretvara u ¬A ∨ B, te imamo 1. ¬A ∨ B 2. ¬B 3. A (Res: 1,2) 4. ¬A 5. ⊥ (Res: 3,4) Detaljnim razmatranjem rezolucijskog postupka i njegovom implementacijom na raˇcunalu do´ci ´ce se do dedukcijskog algoritma temeljenog na metodi pretraˇzivanja s vra´canjem (backtracking). Problem je u tome ˇsto je taj algoritam u najgorem sluˇcaju sloˇzenosti O(2n ). Naˇzalost, poboljˇsanje sloˇzenosti najgoreg sluˇcaja ovog algoritma nije mogu´ce. No, mogu´ce je poboljˇsati njegovu prosjeˇcnu sloˇzenost. S tom su idejom smiˇsljena poboljˇsanja rezolucijskog postupka nazvana semantiˇcka rezolucija, a posebno njen specijalni sluˇcaj hiperrezolucija, te na kraju linearna rezolucija, koja se koristi u programskom jeziku Prolog. Viˇse o tim rezolucijskim postupcima ˇcitatelj moˇze na´ci u [3].
2.2
Predikatni raˇ cun
Za opis nekih sloˇzenijih sustava nije dovoljan raˇcun sudova. Tako se npr, nijedna matematiˇcka teorija ne moˇze opisati samo raˇcunom sudova. Za to je potreban neˇsto sloˇzeniji logiˇcki jezik - raˇcun predikata. U ovom ´cemo poglavlju uvesti taj sloˇzeniji i bogatiji logiˇcki jezik koji ´ce omogu´citi formalni prikaz mnogih, ali joˇs uvijek ne svih matematiˇckih teorija.
2.2.1
Sintaksa
Definicija 2.8 Jezik raˇcuna predikata ima abecedu koja se sastoji od: • najviˇse prebrojivog skupa P predikatnih simbola, • najviˇse prebrojivog skupa F funkcijskih simbola, • najviˇse prebrojivog skupa C konstanti,
ˇ 2.2. PREDIKATNI RACUN
30 • najviˇse prebrojivog skupa V varijabli, • logiˇckih veznika ¬, ∨, ∧, →, ↔, • kvantifikatora ∀, ∃, • zagrada ), (, ], [, }, {,. pri ˇcemu su skupovi C i V disjunktni.
Svakom predikatnom simbolu p ∈ P, kao i svakom funkcijskom simbolu f ∈ F pridruˇzena je jedinstvena kratnost ili arnost. Definicija 2.9 (Term) • Svaka konstanta je term. • Svaka varijabla je term. • Ako je f ∈ F n-arni funkcijski simbol i neka su t1 , . . . , tn termi. Tada je i f (t1 , . . . , tn ) term. Definicija 2.10 Neka je p ∈ P n-arni predikatni simbol i neka su t1 , . . . , tn termi. Tada je p(t1 , . . . , tn ) atomarna formula ili atom. Definicija 2.11 (Formula) • Atomi su formule. • Ako je F formula, onda je i ¬F formula. • Ako su F i G formule i ako je Θ ∈ {∨, ∧, →, ↔}, onda je F ΘG formula. • Ako je F formula, x ∈ V varijabla, a K ∈ {∀, ∃}, onda je KxF formula. Ako je F formula oblika KxG, pri ˇcemu je K ∈ {∀, ∃}, a x ∈ V varijabla, onda za svaki nastup varijable x u formuli G kaˇzemo da je vezan kvantifikatorom Kx. Za istu stvar joˇs kaˇzemo da je svaka takva varijabla x u dosegu kvantifikatora Kx. Za varijablu koja nije u dosegu nijednog kvantifikatora kaˇzemo da je slobodna. Formula koja nema slobodnih varijabli zove se zatvorena formula ili reˇcenica. Primjer 2.10 Dajmo nekoliko primjera formula raˇcuna predikata: • ∀x∃y(P (x, y) ∨ ¬Q(y)) → ∀x∀y(P (x, x) ↔ Q(y)),
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
31
• ∃x(P (x) → ∀yP (y)), • P (c) ∨ ∀x(Q(x, f (x, s)) ∧ p(f (x, x))). Ako je F formula onda ´cemo s F (x) oznaˇcavati ˇcinjenicu da u F nastupa varijabla x.
2.2.2
Semantika
Definicija 2.12 Svako preslikavanje µ : V → C naziva se ograniˇcenje varijabli . Semantiˇcka struktura predikatnog raˇcuna M je par M =< I, U >, pri ˇcemu je I interpretacija, a U domena. Interpretacija I =< ϕ, ψ >, pri ˇcemu je ϕ pridruˇzivanje koje svakom n-arnom funkcijskom simbolu pridruˇzuje totalnu funkciju U n → U , a svakoj konstanti pridruˇzuje nularnu funkciju. Funkcija ψ svakom n-arnom predikatnom simbolu pridruˇzuje n-arnu relaciju nad U . Kada se ovako definira semantiˇcka struktura predikatnog raˇcuna, domena je u potpunosti odredena interpretacijom i moˇze se izostaviti. Semantiˇcka struktura definira istinitost svakog pojedinog atoma. Istinitost se definira na sljede´ci naˇcin: Definicija 2.13 Neka je µ ograniˇcenje varijabli. Proˇsireno ograniˇcenje varijabli je proˇsirenje preslikavanja µ na skup svih terma: • µ(x) ∈ C za x ∈ V, • µ(c) = c za c ∈ C, • µ(f (t1 , . . . , tn )) = ϕ(f )(µ(t1 ), . . . , µ(tn )). Definicija 2.14 Neka je M semantiˇcka struktura i neka je µ proˇsireno ograniˇcenje varijabli. Tada kaˇzemo da je: • Ako je P (t1 , . . . , tn ) atomarna formula, onda je M |=µ A ako i samo ako je (v(t1 ), . . . , v(tn )) ∈ ψ(P ). • M |=µ ¬F ako i samo ako ne vrijedi M |=µ F . • M |=µ F ∧ G ako i samo ako vrijedi M |=µ F i M |=µ G. • M |=µ F ∨ G ako i samo ako vrijedi M |=µ F ili M |=µ G. • M |=µ F → G ako i samo ako ne vrijedi M |=µ F ili pak vrijedi M |=µ G. • M |=µ F ↔ G ako i samo ako vrijedi M |=µ F → G i M |=µ G → F .
ˇ 2.2. PREDIKATNI RACUN
32
• M |=µ ∀xF (x) ako i samo ako za svako proˇsireno ograniˇcenje varijabli ν koje se podudara s µ na svim varijablama osim moˇzda na x vrijedi M |=ν F . • M |=µ ∃xF (x) ako i samo ako postoji proˇsireno ograniˇcenje varijabli ν koje se podudara s µ na svim varijablama osim moˇzda na x za koje vrijedi M |=ν F . Definicija 2.15 Par (M, µ) je model za formulu F ako je M |=µ F . Ako je F reˇcenica, onda njena istinitost ne´ce ovisiti o izboru proˇsirenog ograniˇcenja varijabli, ve´c samo o izboru semantiˇcke strukture. Ako je reˇcenica F istinita u semantiˇckoj strukturi, onda to piˇsemo M |= F . Formulu F , koja je istinita u svakoj mogu´coj semantiˇckoj strukturi (M, µ), nazivamo tautologija i oznaˇcavamo s |= F . Formula koja nije istinita ni u kojoj semantiˇckoj strukturi (M, µ) naziva se antitautologija. Za formulu F koja nije antitatutologija, tj. za koju postoji semantiˇcka struktura (M, µ) takva da je M |=µ F kaˇzemo da je ispunjiva. Sliˇcno, za reˇcenicu F koja nije tautologija, tj. za koju postoji semantiˇcka struktura (M, µ) takva da je M 6|=µ F kaˇzemo da je otklonjiva. Definicija 2.16 Formula G je logiˇcka posljedica formule F , ˇsto oznaˇcavamo s F |= G ako za svaku semantiˇcku strukturu M za koju vrijedi M |= F vrijedi i M |= G. Treba napomenuti da obje karakterizacije logiˇcke posljedice, kako su izreˇcene za raˇcun sudova, vrijede i za raˇcun predikata. Nadalje, uz standardno definiranu logiˇcku ekvivalenciju, u predikatnom raˇcunu vrijedi i propozicija 2.2. Ove dvije tvrdnje ne bi trebale ˇcuditi. Naime, pokazuje se da je segment raˇcuna predikata - raˇcun predikata bez varijabli ekvivalentan raˇcunu sudova, tj. sve ˇsto vrijedi u raˇcunu sudova vrijedi isto tako u raˇcunu predikata, ako atomarne sudove zamijenimo atomarnim formulama raˇcuna sudova. Medutim, u raˇcunu predikata postoje ekvivalencije koje nisu naslijedene iz raˇcuna sudova, ve´c su ekvivalencije koje se javljaju samo u raˇcunu predikata: Propozicija 2.3 Za formule F i G raˇcuna predikata vrijede sljede´ca svojstva: 1. ¬∀xF (x) ≡ ∃x¬F (x),
(de Morganov zakon)
2. ¬∃xF (x) ≡ ∀x¬F (x),
(de Morganov zakon)
3. ∀xF (x) ∧ ∀xG(x) ≡ ∀x(F (x) ∧ G(x)), 4. ∃xF (x) ∨ ∃xG(x) ≡ ∃x(F (x) ∨ G(x)),
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
33
5. Ako je G formula u kojoj se ne javlja varijabla x, K ∈ {∀, ∃} kvantifikator, a Θ ∈ {∨, ∧}, onda je KxF (x)ΘG ≡ Kx(F (x)ΘG). 6. Ako je F formula u kojoj se ne javlja vrijabla z, te ako je K ∈ {∀, ∃} kvantifikator, onda je KxF (x) ≡ KzF (z) 7. Ako se u formulama F i G ne javljaju varijable z1 , z2 , te ako su K1 , K2 ∈ {∀, ∃} kvantifikatori, a Θ ∈ {∨, ∧} onda vrijedi K1 xF (x)ΘKx yG(y) ≡ K1 z1 K2 z2 (F (z1 )ΘG(z2 )). 8. ∀x∀yF (x, y) ≡ ∀y∀xF (x, y). 9. ∃x∃yF (x, y) ≡ ∃y∃xF (x, y). Dokaz. izvedite za vjeˇzbu.
2.2.3
Formalni sustavi
Sustav F se prirodno proˇsiruje s raˇcuna sudova na raˇcun predikata dodavanjem pravila za kvantifikatore: Uvodenje univerzala (∀ Intro) c .. . P (c) ⇒ ∀xP (x) Pri tome je c konstanta koja se ne smije javljati nigdje osim u poddokazu u kojem je uvedena. Eliminacija univerzala (∀ Elim) ∀xP (x) .. . ⇒ P (c) Isto tako, imamo dva pravila izvoda za egzistencijal. Uvodenje egzistencijala (∃ Intro) P (c) .. . ⇒ ∃xP (x) Eliminacija egzistencijala (∃ Elim) ∃xP (x) c P (c) .. . Q ⇒
Q
ˇ 2.2. PREDIKATNI RACUN
34
Pri tome se konstanta c ne pojavljuje nigdje, osim u poddokazu u kojem je uvedena.
Primjer 2.11 Dokaˇzimo da vrijede de Morganovi zakoni za kvantifikatore: ¬∀xP (x) ≡ ∃x¬P (x) te ¬∃xP (x) ≡ ∀x¬P (x). Ova se ekvivalencija dokazuje preko dokaza ˇcetiri tvrdnje. Prvo ´cemo dokazati da ¬∀xP (x) slijedi iz ∃x¬P (x). 1. ∃x¬P (x) c 2. ¬P (c) 3. ∀xP (x) 4. P (c) 5. P (c) ∧ ¬P (c) 6. ¬∀xP (x) 7. ¬∀xP (x)
(∀ Elim: 3) (∧ Intro:4,2) (¬ Intro: 3-5) (∃ Elim: c -6)
Proglasimo tvrdnju koju smo upravo dokazali teoremom 1. Dakle imamo: Teorem 1: ∃x¬P (x) .. . ⇒
¬∀xP (x)
Sada imamo obrnuto: 1. ¬∀xP (x) 2. ¬∃x¬P (x) 3. ∀x¬¬P (x) c 4. ¬¬P (c) 5. P (c) 6. ∀xP (x) 7. ∀xP (x) ∧ ¬∀xP (x) 8. ¬¬∃x¬P (x) 9. ∃x¬P (x)
(Teorem 1: 2) (∀ Elim: 3) (¬ Elim: 4) (∀ Intro: c -5) (∧ Intro: 6,1) (¬ Intro: 2-7) (¬ Elim: 8)
Dakle imamo: Teorem 2: ¬∀xP (x) .. . ⇒
∃x¬P (x)
Dokazujemo drugi de Morganov zakon. Prvo dokazujemo da iz ∀x¬P (x) slijedi ¬∃xP (x).
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA 1. ∀x¬P (x) ∃xP (x) c 3. P (c) 4. ¬P (c) 5. ¬(Q ∧ ¬Q) 2. 6. P (c) ∧ ¬P (c) 7. ¬¬(Q ∧ ¬Q) 8. Q ∧ ¬Q 9. Q ∧ ¬Q 10. ¬∃xP (x) ˇsto daje sljede´ci teorem: Teorem 3: ∀x¬P (x) .. . ⇒ ¬∃xP (x) I na kraju: 1. ¬∃xP (x) 2. ¬∀x¬P (x) 3. ∃x¬¬P (x) c 4. ¬¬P (c) P (c) 6. ∃xP (x) 7. ∃xP (x) ∧ ¬∃xP (x) 8. ∃xP (x) ∧ ¬∃xP (x) 9. ¬¬∀x¬P (x) 10. ∀x¬P (x) Dakle, Teorem 4: ¬∃xP (x) .. . ⇒
35
(∀ Elim: 1) (∧ Intro: (¬ Intro: (¬ Elim: (∃ Elim: (¬ Intro:
3,4) 5-6) 7) c -8) 2-9)
(Teorem 2: 2)
(¬ Elim: 4) (∃ Intro: 5) (∧ Intro: 6,1) (∃ Elim: 3, c -7) (¬ Intro: 2-8) (¬ Elim: 9)
∀x¬P (x)
ˇ Time smo zavrˇsili razmatranje F sustava. Citatelj zainteresiran za detaljnije prouˇcavanje F sustava kao formalizacije matematiˇckog dokazivanja upu´cuje se na [2]. *** Kao i za F sustav, i za rezolucijsku proceduru postoji proˇsirenje na raˇcun predikata. Rezolucijska se procedura u raˇcunu predikata definira nad reˇcenicama. No, kao ˇsto ´cemo vidjeti, u raˇcunu predikata se svaka reˇcenica ne moˇze pretvoriti u ekvivalentnu reˇcenicu koja bi bila pogodna za rezolviranje. Svaka se reˇcenica raˇcuna predikata moˇze, medutim, pretvoriti u ekvivalentnu reˇcenicu u primitivnoj normalnoj formi.
ˇ 2.2. PREDIKATNI RACUN
36
Definicija 2.17 Za reˇcenicu raˇcuna predikata kaˇzemo da je u primitivnoj normalnoj formi ako je ona oblika K1 x1 . . . Kn xn M (x1 , . . . , xn ). Pri tome su K1 , . . . , Kn kvantifikatori, a M (x1 , . . . , xn ) je formula raˇcuna predikata bez kvantifikatora. K1 x1 . . . Kn xn se naziva prefiks, a M (x1 , . . . , xn ) se naziva matrica reˇcenice u primitivnoj normalnoj formi. Teorem 2.7 Svaka reˇcenica raˇcuna predikata ima ekvivalentnu reˇcenicu u primitivnoj normalnoj formi. Umjesto formalnog dokaza ove propozicije navest ´cemo algoritam pomo´cu kojeg ´ce se reˇcenica raˇcuna predikata mo´ci pretvoriti u reˇcenicu u primitivnoj normalnoj formi. Kao prvo, pomo´cu pravila iz propozicije 2.2 eliminiramo sve kondicionale i bikondicionale. Nakon toga, pomo´cu ekvivalencija iz propozicije 2.3, te eventualno primjene pravila dvostruke negacije (propozicija 2.2) sve kvantifikatore izvadimo u prefiks. Primjer 2.12 Pretvorite formulu ∀x∃y(P (x, y) → Q(x)) ∧ ¬∃x∃y(Q(y) ∨ P (x, x)) u primitivnu normalnu formu. ∀x∃y(P (x, y) → Q(x)) ∧ ¬∃x∃y(Q(y) ∨ P (x, x)) ≡ (pr.2.2.20) ≡ ≡
∀x∃y(¬P (x, y) ∨ Q(x)) ∧ ¬∃x∃y(Q(y) ∨ P (x, x)) ≡ (pr.2.3.2) ≡
≡
∀x∃y(¬P (x, y) ∨ Q(x)) ∧ ∀x¬∃y(Q(y) ∨ P (x, x)) ≡ (pr.2.3.2) ≡
≡
∀x∃y(¬P (x, y) ∨ Q(x)) ∧ ∀x∀y¬(Q(y) ∨ P (x, x)) ≡ (pr.2.3.3) ≡
≡
∀x(∃y(¬P (x, y) ∨ Q(x)) ∧ ∀y¬(Q(y) ∨ P (x, x))) ≡ (pr.2.3.7) ≡
≡
∀x∃u∀v((¬P (x, u) ∨ Q(x)) ∧ ¬(Q(v) ∨ P (x, x)))
Kako je matrica formule u primitivnoj normalnoj formi formula bez kvantifikatora, jasno je da za svaku reˇcenicu u primitivnoj normalnoj formi moˇzemo prona´ci ekvivalentnu reˇcenicu u primitivnoj normalnoj formi kojoj je matrica u konjunktivnoj normalnoj formi. Tako ´ce, npr., reˇcenica iz primjera 2.12 biti ekvivalentna reˇcenici ∀x∃u∀v((¬P (x, u) ∨ Q(x)) ∧ ¬Q(v) ∧ ¬P (x, x))
(2.1)
ˇcija je matrica u konjunktivnoj normalnoj formi. Primitivna normalna forma reˇcenice, pa ˇcak ni ako joj je matrica u konjunktivnoj normalnoj formi, nije dovoljna da bi reˇcenica bila pogodna za rezoluciju. Problem stvaraju egzistencijalni kvantifikatori. Naime, rezolucijski postupak u raˇcunu predikata zahtjeva da reˇcenica bude u Skolemovoj normalnoj formi. Definicija 2.18 Reˇcenica raˇcuna predikata je u Skolemovoj normalnoj formi ako je u primitivnoj normalnoj formi, te ako njen prefiks ne sadrˇzi ni jedan egzistencijalni kvantifikator. Naˇzalost, ne postoji naˇcin kojim bi se iz reˇcenice izbacili egzistencijalni kvantifikatori, a da ono ˇsto se dobije bude reˇcenica ekvivalentna polaznoj. To, medutim, za rezoluciju nije niti potrebno. Sada, naime, dolazi do izraˇzaja naˇcin na koji se rezolucijom izvode dokazi. Rezolucijom se dokazuje tako da se konjunkcija pretpostavki i negacije zakljuˇcka svodi na refutaciju. Stoga nam sljede´ca propozicija daje dovoljan uvjet za izvodenje rezolucije. Propozicija 2.4 Za svaku reˇcenicu raˇcuna predikata F postoji reˇcenica raˇcuna F 0 koja je u Skolemovoj normalnoj formi i za koju vrijedi da je F kontradiktorna ako i samo ako je F 0 kontradiktorna.
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
37
Umjesto dokaza opet ´cemo dati algoritam za dobivanje takve formule. 1. Pretvoriti reˇcenicu u primitivnu normalnu formu. ˇ prefiks reˇcenice redom s lijeva na desno, te svaki egzistencijalni kvantifikator 2. Citati na koji se naide izbrisati iz prefiksa. Varijabla koju je vezao taj kvantifikator se iz matrice eliminira na sljede´ci naˇcin: (a) Ako je egzistencijalni kvantifikator bio prvi u prefiksu, onda izaberemo konstantu koja se ne pojavljuje u formuli te svaki nastup varijable koju je izbaˇceni kvantifikator vezao u matrici zamijenimo odabranom konstantom. (b) Ako je egzistencijalni kvantifikator k-ti u prefiksu, onda izaberemo k-narni funkcijski simbol koji se do tada nije pojavljivao u formuli te svaki nastup varijable koju je izbaˇceni kvantifikator vezao u matrici zamijenimo funkcijom s odabranim simbolom ˇciji su argumenti sve varijable koje se u prefiksu nalaze ispred izbaˇcenog kvantifikatora. Za reˇcenice koje imaju svojstvo navedeno u propoziciji 2.4 kaˇzemo da su ekvikontradiktorne. Primjer 2.13 Skolemizirajmo formulu 2.1. Potrebno je izbaciti kvantifikator koji veˇze varijablu u, a svaku pojavu varijable u u matrici zamijeniti funkcijom, recimo f (x). Tako dobijamo reˇcenicu ∀x∀v((¬P (x, f (x)) ∨ Q(x)) ∧ ¬Q(v) ∧ ¬P (x, x)).
(2.2)
koja je ekvikontradiktorna formuli 2.1 Prije no ˇsto krenemo dalje, dat ´cemo joˇs jedan primjer skolemizacije reˇcenice. Primjer 2.14 Skolemizirajmo formulu: ¬∀x∀yP (x, y) ∨ ∀x∃yQ(x, y) Prvo ´cemo reˇcenicu prevesti u primitivnu normalnu formu ¬∀x∀yP (x, y) ∨ ∀x∃yQ(x, y) ≡ pr.2.3.1 ≡ ≡
∃x¬∀yP (x, y) ∨ ∀x∃yQ(x, y) ≡ pr.2.3.1 ≡
≡
∃x∃y¬P (x, y) ∨ ∀x∃yQ(x, y) ≡ pr.2.3.7 ≡
≡
∃u∀v(∃y¬P (u, y) ∨ ∃yQ(v, y)) ≡ pr.2.3.4 ≡
≡
∃u∀v∃y(¬P (u, y) ∨ Q(v, y)).
Skolemiziramo sada dobivenu reˇcenicu u primitivnoj normalnoj formi: Ponajprije izbacujemo kvantifikator koji veˇze varijablu u, a svaku pojavu te varijable u matrici mijenjamo konstantom, recimo c: ∀v∃y(¬P (c, y) ∨ yQ(v, y)) Sada briˇsemo iz prefiksa kvantifikator koji veˇze varijablu y, a svaku pojavu varijable y u matrici mijenjamo funkcijom, recimo f (v): ∀v(¬P (c, f (v)) ∨ yQ(v, f (v))) I time smo zavrˇsili skolemizaciju zadane formule.
ˇ 2.2. PREDIKATNI RACUN
38
No, zbog postojanja varijabli termi koji grafiˇcki izgledaju razliˇcito mogu ponekad biti instancirani u isti temeljni term, tj. term bez varijabli. Stoga nije dovoljno pri rezoluciji gledati samo literale koji grafiˇcki izgledaju isto. Potrebno je uvesti postupak koji ´ce takve terme svoditi na isti term. Taj se postupak naziva unifikacija. Definicija 2.19 Neka su t1 , . . . , tn termi raˇcuna predikata, a v1 , . . . , vn varijable. Tada se izraz {t1 /v1 , . . . , tn /vn } naziva valuacija. Definicija 2.20 Neka je F formula raˇcuna predikata i neka je α = {t1 /v1 , . . . , tn /vn } valuacija. Tada se formula F α koja se dobije zamjenom varijabli v1 , . . . , vn termima t1 , . . . , tn naziva instanca formule F . Definicija 2.21 Neka su α i β valuacije. Tada se njihova kompozicija α◦β, ili αβ definira na sljede´ci naˇcin: Za svaku formulu F je F (αβ) = (F α)β. Definicija 2.22 Za valuaciju α kaˇzemo da je op´cenitija od valuacije β ako postoji valuacija γ takva da je β = αγ. Definicija 2.23 Neka su F i G formule raˇcuna predikata. Valuacija α je unifikator formula F i G ako vrijedi da je F α grafiˇcki jednaka Gα. Za unifikator formula F i G kaˇzemo da je najop´cenitiji ili maksimalan ako je op´cenitiji od bilo kojeg drugog unifikatora formula F i G. Maksimalan unifikator je posebno vaˇzan jer je on onaj unifikator koji najmanje mijenja formule, a pri tome ih unificira. Za formule za koje postoji unifikator kaˇzemo da se mogu unificirati. Stoga je vaˇzan sljede´ci teorem: Teorem 2.8 Ako se formule F i G mogu unificirati, onda postoji maksimalni unifikator od F i G. Iako je mogu´ce izvesti algoritam koji djeluje na proizvoljnim formulama raˇcuna predikata, nama je za potrebe rezolucije dovoljno definirati unifikaciju nad atomima. Sljede´ci algoritam pronalazi maksimalni unifikator atoma P1 : P (t1 , . . . , tn ) i P2 : P (s1 , . . . , sn ) uvijek kada on postoji. 1. Stavljamo da je i = 0 i α0 = ε = ∅ prazna valuacija. W0 = {P1 , P2 }. ˇ 2. Citamo redom s lijeva na desno atome P1 αi i P2 αi sve dok se u proˇcitanom ne javi razlika. 3. Napravimo skup razlika R = {r1 , r2 } tako da je r1 term koji je nastao ˇcitanjem od primje´cene razlike pa sve dok proˇcitani izraz ne ˇcini regularan term raˇcuna predikata. Sliˇcno se tvori i r2 iz atoma P2 . 4. Ako je r1 (r2 ) varijabla x a r2 (r1 ) term t u kojem se ne pojavljuje varijabla x, tada stavljamo αi+1 = αi ◦ {t/x} Wi+1 = {P1 αi+1 , P2 αi+1 }. U suprotnom maksimalni unifikator ne postoji i algoritam zavrˇsava. 5. Ako je Wi+1 jednoˇclan skup, onda je αi+1 maksimalni unifikator, i algoritam zavrˇsava. 6. i := i + 1 idemo na korak 2. Teorem 2.9 Gore opisani algoritam radi korektno, tj. pronalazi maksimalni unifikator atoma P1 i P2 uvijek kada on postoji.
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
39
Treba re´ci da se ovaj algoritam moˇze lagano proˇsiriti tako da radi s viˇse od dva atoma. Tada ´ce skupovi Wi , Ri imati viˇse ˇclanova. Traˇzit ´ce se da u skupu razlika postoji varijabla i term u kojem se ta varijabla ne pojavljuje, a cilj je, kao i kod sluˇcaja s dva atoma, dobiti jednoˇclan skup Wk . Nadalje, ovaj algoritam, u potpunosti nepromijenjen, moˇze se koristiti i za unifikaciju bilo kojih drugih formula raˇcuna predikata. Pri tome treba napomenuti da, bez obzira na kakvim se formulama ovaj postupak provede, on moˇze unificirati samo razlike u termima. Ako se pojavi razlika u predikatnom simbolu, logiˇckom vezniku ili kvantifikatoru, onda se unifikacija ne moˇze provesti. Sada, kad smo definirali skolemizaciju i unifikaciju mogu´ce je definirati i rezoluciju za raˇcun predikata. Neka je zadan skup reˇcenica {F1 , . . . , Fn } koje predstavljaju pretpostavke iz kojih ˇzelimo izvesti zakljuˇcak - reˇcenicu G. Prisjetimo se prve karakterizacije logiˇcke posljedice (teorem 2.1). Ona kaˇze da je formula G logiˇcka posljedica skupa formula {F1 , . . . , Fn } ako i samo ako je formula F1 ∧ . . . ∧ Fn ∧ ¬G
(2.3)
antitautologija. Jasno je da se za formulu 2.3 moˇze prona´ci ekvikontradiktorna formula u Skolemovoj normalnoj formi. No, je li potrebno skolemizirati cijelu tu, veliku fromulu? Odgovor je - nije. Ako pretpostavke i zakljuˇcak nemaju zajedniˇckih varijabli, dovoljno je da se skolemizira posebno svaka pretpostavka i negacija zakljuˇcka. Naime, u tom se sluˇcaju, zbog propozicije 2.3.5, Skolemove normalne forme pretpostavki i negacije zakljuˇcka mogu povezati konjunkcijama, a nakon toga se svi veznici mogu izvu´ci na poˇcetak formule i tako se dobije Skolemova normalna forma formule 2.3. Kako se radi o reˇcenicama u kojima su svi nastupi svih varijabli vezani, a kako su sve varijable koje su vezane vezane univerzalnim kvantifikatorima, kvantifikatore moˇzemo kod zapisa formule izostaviti. Na taj ´cemo naˇcin dobiti formulu koja ne sadrˇzi kvantifikatore. Ovoj se formuli moˇze prona´ci ekvivalentna formula u konjunktivnoj normalnoj formi na isti naˇcin kao ˇsto smo to radili za formule raˇcuna sudova. Formulu u konjunktivnoj normalnoj formi moˇzemo, kao ˇsto je ve´c reˇceno, gledati kao skup disjunkata, koji se mogu medusobno rezolvirati. Sam postupak rezolucije moramo, medutim, malo proˇsiriti. Naime, kod raˇcuna sudova rezolviranjem su se iz formula otklanjali atomarni sud i njegova negacija. Kod raˇcuna predikata otklanjati se mogu i atomi koji nisu medusobno jednaki. Dovoljno je da se atom i negacija atoma koje ˇzelimo otkloniti mogu medusobno unificirati. Definicija 2.24 Neka su F1 : P ∨ G1 i F2 : ¬Q ∨ G2 disjunkti, a P i Q su atomi koji imaju maksimalni unifikator α. Tada je (G1 ∨ G2 )α rezolventa formula F1 i F2 . Sljede´ci teorem nam osigurava da je rezolucija dobro definiran formalni sustav: Teorem 2.10 Postupak rezolucije za raˇcun predikata je korektan i potpun. Primjer 2.15 Dokaˇzimo rezolucijom da iz formule ∀x∀y(P (x) → Q(x, y)) i iz ∃xP (x) slijedi ∃x∀yQ(x, y). Imamo sljede´ce tri formule: 1. ∀x1 ∀y1 (P (x1 ) → Q(x1 , y1 )) ≡ ∀x1 ∀y1 (¬P (x1 ) ∨ Q(x1 , y1 )) 2. ∃x2 P (x2 ), pa skolemizacijom prelazi u P (c) 3. ¬∃x3 ∀y3 Q(x3 , y3 ) ≡ ∀x3 ∃y3 ¬Q(x3 , y3 ) ˇsto skolemizacijom prelazi ∀x3 ¬Q(x3 , f (x3 )) Dakle, imamo sljede´ci dokaz:
40
2.3. ZADACI 1. 2. 3. 4. 5. 6.
¬P (x1 ) ∨ Q(x1 , y1 ) P (c) ¬Q(x3 , f (x3 )) Q(c, y1 ) ¬P (x3 ) ⊥
(Res: 1,2 {c/x1 }) (Res: 1,3 {x3 /x1 , f (x3 )/y1 }) (Res: 3,4 {c/x2 , f (x3 )/y1 })
Za raˇcun predikata, isto kao i za raˇcun sudova, koristi se semantiˇcka rezolucija, hiperrezolucija i linearna rezolucija. Ovi se pojmovi mogu prona´ci detaljno opisani u [3], ali i u [6].
2.3
Zadaci
Koriˇstenjem definicije logiˇcke posljedice dokaˇzite da su sljede´ce tvrdnje tautologije: 1. {A ∨ B, A → B} |= B 2. {A ∨ B ∨ C, ¬A ∧ ¬B} |= C 3. {A → B, ¬(A ∨ ¬B} |= C Pronadite konjunktivnu i disjunktivnu normalnu formu sljede´cih formula 4. (A ∨ B) ↔ (C ∨ D) 5. (((¬A ∨ B) ∧ ¬C) ∨ D) ∧ ¬E 6. (¬A ∨ B) ∧ (C ∨ ¬D) 7. ¬((A ∨ B) → C) 8. Pomo´cu F sustava dokaˇzite tvrdnje iz propozicije 2.2 9. Pomo´cu rezolucije dokaˇzite tvrdnje iz propozicije 2.2 Bez upotrebe formalnih sustava dokaˇzite da su sljede´ce tvrdnje tautologije: 10. ∀x∀yP (x, y) → ∃y∀xP (x, y) 11. ∃x∃y(P (x, y) → q(x)) ↔ ¬∀x∀yP (x, y) ∨ ∃xQ(x) 12. ¬(∀x∃yP (x, y) ↔ ∃y∀xP (x, y)) 13. ∀x∀yP (x, y) ↔ ∀y∀xP (x, y) Pronadite Sk¨olemovu normalnu formu sljede´cih formula: 14. ∀x∃y(P (x, y) → Q(y)) ∧ ∀x∀y(P (x, x) ∨ Q(y)) 15. ∃x(P (x, c) ↔ ∀y(P (f (x, y), y) ∧ ¬Q(x))) 16. Upotrijebom F-sustava dokaˇzite tvrdnje propozicije 2.3 17. Pomo´cu rezolucijskog postupka dokaˇzite tvrdnje propozicije 2.3
ˇ POGLAVLJE 2. MATEMATICKA LOGIKA
2.4
41
Projekti
1. Definirajte potpunu sintaksu raˇcuna sudova u postfiksnoj notaciji. Nakon toga predefinirajte sve teoreme iz poglavlja, tako da svi zapisi formula u njima budu u postfiksnoj notaciji. 2. Definirajte sintaksu raˇcuna predikata u postfiksnoj notaciji. Nakon toga predefinirajte sve teoreme iz knjige, tako da svi zapisi formula u njima budu u postfiksnoj notaciji. 3. Napravite raˇcunalni program koji ´ce prepoznavati je li zadani izraz formula raˇcuna predikata. 4. Napravite program koji ´ce izraˇcunavati je li neki sud logiˇcka posljedica zadanih sudova, koriˇstenjem rezolucijskog postupka. Nakon toga prouˇcite hiperrezoluciju i napravite program koji ´ce raditi isto, ali primjenom hiperrezolucije. Na kraju implementirajte i linearnu rezoluciju. Usporedite rad ova tri programa. 5. Dokaˇzite potpunost i korektnost F sustava.
42
2.4. PROJEKTI
Bibliografija [1] Apt, K. R.: From Logic Programming to Prolog, Prentice Hall Int., London, England, 1997. [2] Barwise, J.; Etchemendy, J.: The Language of First-Order Logic 3rd edition, CSLI, Stanford, 1992. [3] Chang, C.-L.; Lee, C.-T.: Symbolic Logic and Mechanical Theorem Proving, Accademic Press, New York, 1973. ˇ M.: Matematiˇcka logika za ekspertne sisteme, Informator, Za[4] Cubrilo, greb, 1989. [5] Deville, Y.: Logic Programming, Addison-Wesley, Workingham, England, 1990. [6] Doets, K.: From Logic to Logic Programming, MIT Press, Cambridge, 1994. [7] Flach, P.: Simply Logical, John Wiley & Sons Chichester, England, 1994. [8] Lloyd, J.W.: Foundations of Logic Programming, Springer-Verlag, Berlin, 1984.
43
44
BIBLIOGRAFIJA
Poglavlje 3
Diskretna matematika Razvoj matematike iˇsao je prema sve ve´coj preciznosti i vodi do formalizacije takvih razmjera da ´ce se svaki teorem mo´ci dokazati samo pomo´cu nekoliko mehaniˇckih pravila. Kurt G¨odel vs. Trudim se izbje´ci duge numeriˇcke raˇcune i slijedim Riemannov postulat da dokazi trebaju biti dani kroz ideje, a ne kroz voluminozne raˇcune. David Hilbert Diskretna matematika je grana matematike koja prouˇcava probleme koji ukljuˇcuju konaˇcne i prebrojivo beskonaˇcne skupove. Konkretno, diskretna se matematika prvenstveno povezuje sa skupom prirodnih i cijelih brojeva, a ponekad i sa skupom racionalnih brojeva. Kontinuiranim skupovima, posebno skupom realnih brojeva, bavi se matematiˇcka analiza. Na temeljima diskretne matematike gradi se raˇcunalna geometrija i algebra, logika, teorija grafova i kombinatorika. Upotrebom raˇcunalne geometrije (computational geometry) grade se robotika, automatika, navigacija, menadˇzment, interaktivne tehnike vizualizacije i sl. Bez diskretne matematike nezamislivo je paralelno programiranje i alSlika 3.1: Georg Ferdinand goritmi te strukture podataka i ekspertni sustavi. Ludwig Philipp Cantor Stoga ´cemo u ovom dijelu knjige posvetiti paˇznju pojmovima koji nam pomaˇzu u prouˇcavanju problema diskretne matemati45
46
3.1. SKUPOVI
ke. To su prije svega skupovi, relacije i funkcije.
3.1
Skupovi
Cilj je ovog poglavlja ponavljanje osnovnih pojmova vezanih uz skupove kako bismo mogli izloˇziti teme koje slijede u knjizi, a u znatnoj mjeri koriste skupove. Pojam skupa u matematiku uvodi Georg Cantor (1845-1918). Skup pripada osnovnim matematiˇckim pojmovima, odnosno pojmovima koje ne definiramo. O skupu razmiˇsljamo kao o kolekciji elemenata (ˇclanova), koje zamiˇsljamo kao cjelinu. Izuzetak je prazan skup ∅, koji nema elemenata.
3.1.1
Zadavanje skupa
Postoje dva osnovna naˇcina na koje moˇzemo zadati skup: 1. nabrajanjem elemenata skupa, ili 2. definiranjem svojstava koja trebaju zadovoljavati elementi skupa. Skup je zadan ako se zna od kojih se elemenata sastoji. Pristup Fregea, da svako svojstvo definira neki skup, dovodio je do paradoksa. Tako je Cantor primjetio 1897. da postoji paradoks skupa svih skupova. Nadalje, Bertrand Russell je dao joˇs nekoliko zanimljivih paradoksa vezanih uz skupove. Dakle, Fregeov princip, da svako svojstvo odreduje neki skup, ne vrijedi, budu´ci da moˇze dovesti do paradoksa (tzv. paradoksi regularnog svojstva). Potrebno je, utvrdio je Zermelo, ograniˇciti svojstvo, tako da se elementi uzimaju iz nekog univerzalnog skupa U .
3.1.2
Relacije medu skupovima
Nabrojimo tri najvaˇznije relacije na skupovima. U svim definicijama velika tiskana slova A, B oznaˇcavaju skupove. Relacija sadrˇ zavanja A ⊆ B ⇔ (∀x ∈ A ⇒ x ∈ B). Jednakost skupova A = B ⇔ (A ⊆ B ∧ B ⊆ A). Pravi podskup A ⊂ B ⇔ (A ⊆ B ∧ A 6= B),
POGLAVLJE 3. DISKRETNA MATEMATIKA
47
tj., A ⊂ B ⇔ (A ⊆ B ∧ (∃x ∈ B, x ∈ / A)). Propozicija 3.1 Za svaki skup A, A ⊆ A i ∅ ⊆ A. Za skupove brojeva vrijedi N ⊂ Z ⊂ Q ⊂ R ⊂ C. Zadatak 3.1 Pokaˇzite da je A = B za A = {2k+5|k ∈ Z} i B = {2k+3|k ∈ Z}.
3.1.3
Partitivni skup
Partitivni skup je skup svih podskupova zadanog skupa, tj. P (A) = {X : X ⊆ A} . Elementi partitivnog skupa su uvijek prazan skup i cijeli skup A. Ako skup A ima n elemenata onda njegov partitivni skup ima 2n elemenata. Primjer 3.1 P ({a, b}) = {∅, {a}, {b}, {a, b}}.
3.1.4
Operacije na skupovima
Nabrojimo osnovne operacije medu skupovima i njihova svojstva. Unija A ∪ B = {x : x ∈ A ∨ x ∈ B} . Presjek A ∩ B = {x : x ∈ A ∧ x ∈ B} . Razlika A \ B = {x : x ∈ A ∧ x ∈ / B} . Komplement CA B = {x : x ∈ A ∧ x ∈ / B} = A\B Ovdje je A univerzalni skup i A ⊆ B. Univerzalni komplement za A = U i B⊂U C(B) = U \B Zadatak 3.2 Neka je za n ∈ N Dn = {x ∈ N|x dijeli n} skup djelitelja prirodnog broja n. Izraˇcunajte: 1. D0 , D5 , D6 , D9 i D12 . 2. D5 ∪ D9 .
48
3.1. SKUPOVI 3. D6 ∩ D9 , D12 \D9 . Svojstva skupovskih operacija: 1. Zakon idempotencije A ∪ A = A, A ∩ A = A, A ∪ ∅ = A, A ∩ ∅ = ∅. 2. Komutativnost A ∪ B = B ∪ A, A ∩ B = B ∩ A. 3. Asocijativnost A ∪ (B ∪ C) = (A ∪ B) ∪ C, A ∩ (B ∩ C) = (A ∩ B) ∩ C. 4. Distributivnost A ∪ (B ∩ C) = (A ∪ B) ∩ (A ∪ C) , A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C) . 5. De Morganovi zakoni C (A ∩ B) = C (A) ∪ C (B) , C (A ∪ B) = C (A) ∩ C (B) . 6. Dvostruki komplement C (C (A)) = A. Nabrojena svojstva dokazuju se direktno ili pomo´cu tablice pripadnosti.
3.1.5
Kartezijev produkt skupova
Evo joˇs jednog naˇcina da od dva skupa dobijemo neki novi skup. Definicija 3.1 Neka su A,B dva neprazna skupa. Kartezijev produkt (direktni produkt) skupova A i B je skup A × B = {(a, b) : a ∈ A, b ∈ B} .
POGLAVLJE 3. DISKRETNA MATEMATIKA
49
Izraz (a, b) zovemo uredenim parom od a i b. Kod njega je vaˇzan poredak elemenata u paru. Kartezijev produkt A × A zapisujemo kao A2 i zovemo ga Kartezijevim kvadratom. Definicija 3.2 Neka su A1 , A2 , ..., An neprazni skupovi. Kartezijev produkt (direktni produkt) skupova A1 , A2 , ..., An je skup A1 × A2 × ... × An = {(a1 , a2 , ..., an ) : ai ∈ Ai , i = 1, 2, ..., n} . Izraz (a1 , a2 , ..., an ) zovemo uredenom n-torkom i kod nje je vaˇzan poredak elemenata. Zadatak 3.3 Ispiˇsite Kartezijev produkt A1 × A2 × A3 ako je A1 = {Ivan, M aja, Sanja}, A2 = {radnik, student, trgovac} i A3 = {bogat, siromaˇ san}.
3.2 3.2.1
Binarne relacije Binarne relacije na diskretnim skupovima
Neka su A, B neprazni skupovi. Svaki podskup ρ Kartezijevog produkta A×B zovemo binarnom relacijom na A×B. Relacije moˇzemo promatrati na kontinuiranim skupovima kao ˇsto je skup realnih brojeva, ali i na diskretnim skupovima, na primjer na skupu cijelih brojeva. U informatiˇckoj primjeni vaˇznije su relacije na diskretnim skupovima. Pretpostavimo da konaˇcni skupovi A i B imaju m, odnosno n elemenata, tj. k (A) = m, k (A) = n. Tada je broj binarnih relacija koje se mogu definirati na A × B jednak 2nm . Relacije na konaˇcnim skupovima moˇzemo predstaviti na sljede´ce naˇcine: 1. Pomo´cu dijagrama koji prikazuje dva konaˇcna skupa A i B te strelice koje prikazuju pridruˇzivanje elementa skupa A onima u skupu B. Na taj su naˇcin opisani uredeni parovi ˇciji su elementi relaciji. 2. Pomo´cu matrice incidencije (reprezentacije), koja ima m redova i n stupaca (ako je k (A) = m, k (A) = n), te jedinice na mjestima gdje su elementi u relaciji i nule tamo gdje nisu. 3. Pomo´cu usmjerenog grafa, ako je relacija definirana na A2 . Posebno su vaˇzne relacije izmedu elemenata istog skupa, tj. relacije na A × A koje zovemo binarnim relacijama na A. U izuˇcavanju tih relacija pomaˇze mogu´cnost njihovog grafiˇckog prikazivanja pomo´cu grafova. Pri tom se koriste pojmovi: ˇcvor (vrh) grafa - to je svaki element skupa A, i luk -
50
3.2. BINARNE RELACIJE
svakom paru (a, b)²A × A pridruˇzen je jedan luk pri ˇcemu se prva komponenta para naziva izlaznim ˇcvorom grafa, a druga komponenta ulaznim ˇcvorom. Graf relacije se obiˇcno nacrta tako da se njegovi vrhovi rasporede otprilike kao vrhovi pravilnog mnogokuta, a zatim se lukovima poveˇzu elementi koji su u relaciji. Grafovi imaju veliku vrijednost za vizualizaciju relacija i njihovih svojstava. Brojne mogu´cnosti primjene grafova u modeliranju problema u razliˇcitim znanstvenim podruˇcjima i sasvim konkretnih problema, potakle su razvoj posebne matematiˇcke discipline koja se zove teorija grafova. Definicija 3.3 Graf relacije ρ ⊆ A × A je par (A, ρ) pri ˇcemu je A skup ˇcvorova grafa, a ρ skup lukova. Zadatak 3.4 Zadana je relacija ρ na skupu A = {a, b, c, d, e} sa ρ = {(a, b) , (b, a) , (c, c) , (c, e) , (d, a) , (d, d) , (d, e) , (e, e)} . Prikaˇzite zadanu relaciju na tri gore navedena naˇcina. Binarne relacije definirane na podskupovima skupa realnih brojeva prikazujemo grafiˇcki pomo´cu koordinatnog sustava u ravnini. © ª Primjer 3.2 Zadana je relacija ρ na skupu R sa ρ = (x, y) : x = y 2 . Prikaˇzimo zadanu relaciju pomo´cu grafa u koordinatnom sustavu.
y 2
1
0
1
2
-1
-2
Slika 3.2
3
4
x
POGLAVLJE 3. DISKRETNA MATEMATIKA
3.2.2
51
Obrat relacije, komplement relacije i dualna relacija
Zadanoj relaciji ρ ⊆ A2 mogu se pridruˇziti joˇs neke relacije prema sljede´coj definiciji: Definicija 3.4 Neka je ρ ⊆ A2 . Obrat ρ ¯ relacije ρ : (a, b) ∈ ρ ¯ ⇔ (b, a) ∈ ρ. c Komplement ρ relacije ρ : (a, b) ∈ ρc ⇔ (a, b) ∈ / ρ. Dualna relacija ρd relacije ρ : (a, b) ∈ ρd ⇔ (b, a) ∈ / ρ. Primjer 3.3 A = {a, b, c} , ρ = {(a, b), (a, c), (b, a), (b, b)} . Odredite ρd , ρ ¯ i ρc . Obrat relacije odreduje se tako da se u parovima koji pripadaju zadanoj relaciji zamijene prva i druga komponenta, pa imamo ρ ¯ = {(a, b), (b, a), (b, b), (c, a)} . Komplement relacije ρc odredi se kao razlika A × A \ ρ ; ρc = {(a, a), (a, b), (b, c), (c, a), (c, b), (c, c)} . Neˇsto teˇze je po definiciji formirati dualnu relaciju ρd = {(a, a), (a, c), (b, a), (b, c), (c, b), (c, c)} . Zbog toga je korisna sljede´ca propozicija. Propozicija 3.2 ρd = ρ ¯c = ρc . Dokaz. Dokaˇzimo prvo ρd = ρc (a, b)²ρd ⇐⇒ (b, a) ∈ / ρ ⇐⇒ (b, a) ∈ ρc ⇔ (a, b) ∈ ρc . Kompletirajte dokaz! Kojim se joˇs shemama moˇze dokazati ova tvrdnja?
3.3 3.3.1
Relacija ekvivalencije Definicija i svojstva relacija ekvivalencije
Relacija ekvivalencije predstavlja oslabljeni oblik jednakosti brojeva. S druge strane, klasificiramo li ljude prema karakteristikama kao ˇsto su drˇzava u kojoj stanuju, prema boji njihove kose ili pak prema njihovoj visini, definirat ´cemo relacije ekvivalencije. Pokazuje se da relacija ekvivalencije na nekom skupu definira particiju tog skupa na neprazne, disjunktne podskupove ˇcija unija daje ˇcitavi skup. Definicija 3.5 Neka je ρ ⊆ A2 . Relacija ρ je relacija ekvivalencije ako je:
52
3.3. RELACIJA EKVIVALENCIJE 1. refleksivna tj. (∀x ∈ A) (x, x) ∈ ρ, 2. simetriˇ cna tj. (∀x, y, ∈ A) (x, y) ∈ ρ ⇒ (y, x) ∈ ρ, 3. tranzitivna tj. (∀x, y, z ∈ A) ((x, y) ∈ ρ ∧ (y, z) ∈ ρ) ⇒ (x, z) ∈ ρ.
Primjeri relacija ekvivalencije, koje ste upoznali u srednjoˇskolskoj matematici, su jednakost realnih brojeva, relacija paralelnosti na skupu svih pravaca u ravnini ili prostoru, zatim sukladnost i sliˇcnost geometrijskih likova (npr. trokuta) u ravnini. To je razlog ˇsto o relaciji ekvivalencije razmiˇsljamo kao o oslabljenoj jednakosti na elementima nekog skupa. Zadatak 3.5 Za realne brojeve a, b razliˇcite od nule definiramo relaciju ρ sa: aρb ⇔ ab ∈ Q. Dokaˇzite da je ρ relacija ekvivalencije. Svaki stanovnik Europe ima boraviˇste u nekoj od europskih drˇzava. Kaˇzemo da su Europljani a i b u relaciji s ako su oni stanovnici iste drˇzave. Ovako definirana relacija s predstavlja jednu relaciju ekvivalencije. Primijetimo da jedan ˇcovjek moˇze (prema svojim sluˇzbenim dokumentima) biti stanovnik samo jedne drˇzave, te da su svi stanovnici drˇzave X medusobno u relaciji s. Definicija 3.6 Neka je ρ relacija ekvivalencije na skupu A. Za a ∈ A klasa ekvivalencije [a]ρ s obzirom na ρ je skup [a]ρ = {x : x²A ∧ xρa} .
(3.1)
Primjer 3.4 Odredite (opiˇsite) klase ekvivalencije za relaciju s medu elementima skupa A = { stanovnici Europe} danu sa © ª s = (a, b) ∈ A2 : a i b stanuju u istoj drˇzavi . Kako bismo izrekli vaˇzna svojstva relacije ekvivalencije uvest ´cemo vaˇzan pojam particije skupa. Definicija 3.7 Neka je A neprazan skup i neka su A1 , A2 , ...An neprazni disjunktni podskupovi od A. Ako je A = A1 ∪ A2 ∪ ... ∪ An onda skup F = {A1 , A2 , ...An } zovemo particijom skupa A .
POGLAVLJE 3. DISKRETNA MATEMATIKA
53
Uoˇcimo da se familija skupova moˇzSe zapisati kao F = {Ai : i ∈ I} , gdje je I neki skup indeksa, te da je onda Ai = A. i∈I
Primjerice za skup A = {1, 2, 3, 4, 5, 6, 7, 8} jedna je particija dana sa A1 = {1, 2, 3} , A2 = {4, 6, 8} , A3 = {5, 7} . Ta particija ima tri dijela. Op´cenito se moˇze postaviti pitanje za konaˇcni skup od n elemenata, koliko ima razliˇcitih particija od k dijelova. Taj broj se oznaˇcava sa S (n, k) i zove Stirlingov broj (druge vrste). Op´cenito vrijedi S (n, 1) = 1, S (n, n) = 1, a za 2 ≤ k ≤ n − 1 imamo S (n, k) = S (n − 1, k − 1) + kS (n − 1, k) . Viˇse se o toj temi moˇze proˇcitati u [1]. Propozicija 3.3 Neka je ρ relacija ekvivalencije na A. Skup klasa ekvivalencije obzirom na ρ je particija skupa A (kvocijentni skup od A s obzirom na ρ; oznaka A/ρ). Dokaz. Pretpostavimo da je ρ relacija ekvivalencije na A. Treba dokazati da za klase ekvivalencije elemenata tog skupa s obzirom na tu relaciju vrijede sljede´ce tvrdnje: 1. te klase su neprazne, 2. svaki element iz A nalazi se u nekoj od klasa, 3. klase su disjunktne. Prva tvrdnja i druga tvrdnja oˇcito vrijede jer je zbog svojstva ekvivalencije svaki element u relaciji sam sa sobom. Da bismo dokazali tre´cu tvrdnju pretpostavimo da su [a]ρ i [b]ρ dvije razliˇcite klase ekvivalencije. Pokazat ´cemo metodom suprotnog da su u tom sluˇcaju one disjunktne. Pretpostavimo dakle da postoji element x² [a]ρ ∩ [b]ρ . Zbog toga vrijedi xρa i xρb. Budu´ci da je ρ relacija ekvivalencije, vrijedi implikacija aρx ∧ xρb =⇒ aρb. To bi pak znaˇcilo da elementi a i b pripadaju istoj klasi. Zbog tranzitivnosti relacije ρ u tom sluˇcaju bi i svi elementi koji su u relaciji s jednim od ta dva elementa ujedno bili u relaciji i s drugim elementom, pa njihove klase ekvivalencije ne bi mogle biti razliˇcite. Vrijedi i obrat tj. sljede´ca propozicija. Propozicija 3.4 Svaka particija skupa A prirodno definira jednu relaciju ekvivalencije na A. Dokaz. Stavimo: aρb ⇔ (a, b) pripadaju istom ˇclanu dekompozicije. Zakljuˇcujemo da svaka relacija ekvivalencije na danom skupu definira jednu particiju skupa, ali i obrnuto, svaka particija skupa inducira jednu relaciju ekvivalencije na tom skupu. Primjer 3.5 Odredite kvocijentni skup relacije ρ iz primjera 3.4. Koliko elemenata ima taj kvocijentni skup?
54
3.3. RELACIJA EKVIVALENCIJE
Zadatak 3.6 Koja od sljede´cih relacija predstavlja relaciju ekvivalencije na skupu R2 ? Za relacije ekvivalencije nadite geometrijsku interpretaciju elemenata kvocijentnog skupa. 1. (a, b) ρ (c, d) ⇔ a + 2b = c + 2d 2. (a, b) ρ (c, d) ⇔ ab = cd 3. (a, b) ρ (c, d) ⇔ a2 + b = c + d2 4. (a, b)ρ(c, d) ⇔ a2 − b = c + d2
3.3.2
Kongruencije
Modularna ekvivalencija ili kongruencija je primjer relacije ekvivalencije koja se koristi u informatici (npr. u postupcima programiranja kontrole odredenih raˇcunskih postupaka). Ta relacija prirodno inducira particiju skupa cijelih brojeva Z. Na primjer, cijeli brojevi su ekvivalentni modulo 2, ako je njihova razlika paran broj. Tako dobivamo particiju cijelih brojeva na parne i neparne cijele brojeve. Op´cenito se moˇze promatrati ekvivalencija modulo k, gdje je k bilo koji prirodan broj. Definicija 3.8 Neka su a, b ∈ Z, k ∈ N. Tada je a ≡ b (mod k) ⇐⇒ ∃n ∈ Z, a − b = nk (a ≡ b (mod k) ˇcitamo ”a je ekvivalentno s b modulo k”) . Pri tom broj k zovemo modulom ekvivalencije. Propozicija 3.5 Modularna ekvivalencija je relacija ekvivalencije. Dokaz. Treba pokazati da ta relacija ima svojstva refleksivnosti, simetriˇcnosti i tranzitivnosti. Refleksivnost je oˇcita jer vrijedi ∀a²Z =⇒ a−a = 0·k, gdje je k ∈ N proizvoljan. Dokaˇzimo simetriˇcnost: a ≡ b (mod k) ⇐⇒ ∃n ∈ Z, a − b = nk =⇒ b − a = (−n)k ⇐⇒ b ≡ a (mod k) . Dokaˇzimo tranzitivnost: neka je a ≡ b (mod k) i b ≡ c (mod k). Izlazi da ∃n, m ∈ Z takvi da vrijedi a − b = nk i b − c = mk. Zbroje li se ove dvije jednakosti proizlazi a − c = (n + m)k, ˇsto je ekvivalentno s a ≡ c (mod k) .
Primjer 3.6 Odredimo kvocijentni skup relacije modularne ekvivalencije. Promatramo li modularnu ekvivalenciju modulo k inducirat ´cemo particiju skupa Z u k klasa ekvivalencije. U svakoj su klasi ekvivalencije oni cijeli brojevi koji pri dijeljenju sa k daju jednake ostatke.
POGLAVLJE 3. DISKRETNA MATEMATIKA
55
Uobiˇcajeno je klase ekvivalencije kod modularne ekvivalencije (kongruencije) zvati klasama kongruencije i oznaˇcavati sa a ¯. Tako je kod kongruencije modulo 4, ¯0 = {x ∈ Z : x ≡ 0 mod 4} = {x ∈ Z : x = 4k, k ∈ Z} = {..., −4, 0, 4, 8, ...}, ¯1 = {x ∈ Z : x ≡ 1 mod 4} = {x ∈ Z : x = 4k + 1, k ∈ Z} = {..., −3 , 1 , 5 , 9 , ...}. U ovom sluˇcaju se piˇse i ¯0 = 4Z, ¯ 1 = 4Z+1, ¯ 2 = 4Z+2, ¯ 3 = 4Z+3. Dakle, postoje klase kongruencije koje korespondiraju svim mogu´cim ostacima pri dijeljenju s k. Uoˇcimo da vrijedi a ≡ b mod n ⇔ a ¯ = ¯b, n ∈ N. Preko kongruencija moˇzemo sve cijele brojeve reducirati na njihove ostatke modulo k. Taj postupak zovemo redukcija modulo k. Pri tome je za svaki prirodni broj k > 1 i svaki cijeli broj a, a mod k jednak ostatku r pri dijeljenju broja a s k. Sada je 0 ≤ r ≤ n − 1. Spomenuta redukcija omogu´cava nam lakˇse rjeˇsavanje jednadˇzbi koje sadrˇze kongruencije. Kao rjeˇsenje jednadˇzbe nademo ostatak, a podrazumijevamo da su rjeˇsenja i brojevi r mod k. Primjer 3.7 Rijeˇsimo jednadˇzbu 2x ≡ 1 mod 4. Uvrˇstavamo umjesto x sve ostatke pri dijeljenju s 4 pa imamo za: x = 0, 0 ≡ 1 mod 4 x = 1, 2 ≡ 1 mod 4 x = 2, 4 ≡ 1 mod 4 x = 3, 6 ≡ 1 mod 4. Dakle, gornja jednadˇzba nema rjeˇsenje. Primjer 3.8 Rijeˇsimo jednadˇzbu 2x ≡ 2 mod 4. Uvrˇstavamo umjesto x sve ostatke pri dijeljenju s 4 pa imamo za: x = 0, 0 ≡ 2 mod 4 x = 1, 2 ≡ 2 mod 4 x = 2, 4 ≡ 2 mod 4 x = 3, 6 ≡ 2 mod 4. Ova jednadˇzba ima dva rjeˇsenja x = 1 i x = 3. Izvedimo formule za zbrajanje i mnoˇzenje kongruencija modulo k. One su sre´com prirodne. Teorem 3.1 Za a ≡ b mod k i c ≡ d mod k vrijedi a + c ≡ (b + d) mod k, ac ≡ (bd) mod k.
56
3.3. RELACIJA EKVIVALENCIJE Dokaz. Pretpostavke su da postoje cijeli brojevi n i m takvi da je a − b = kn, c − d = km. Oduzimanjem gornjih dviju jednakosti imamo (a − c) − (b − d) = (n − m) k,
ˇsto je ekvivalentno tvrdnji a + c ≡ (b + d) mod k. Nadalje, da bismo dokazali formulu za mnoˇzenje kongruencija treba dokazati da je ac − bd djeljivo sa k. Proˇsirimo izraz ac − bd sa ad i −ad pa raˇcunamo ac − ad + ad − bd = a (c − d)+d (a − b) = akm+dkn = k (am − dn) . Zakljuˇcujemo da je ac−bd djeljivo s k. Pogreˇsno bi bilo zakljuˇciti da je formula za dijeljenje kongruencija prirodna, kao ˇsto su formule za zbrajanje i mnoˇzenje kongruencija. Zapravo kongruenciju moˇzemo dijeliti s brojem koji je relativno prost s modulom k. Da kongruencije ne moˇzemo dijeliti s proizvoljnim cijelim brojem pokazuje sljede´ci primjer. Oˇcito vrijedi 90 ≡ 30 mod 12, ali dijeljenjem s brojem 6 dobili bismo 15 ≡ 5 mod 12, a to oˇcito nije istinito. S druge strane dijeljenjem gornje kongruencije s 5 dobivamo da je 18 ≡ 6 mod 12, ˇsto je istinito. Uzmimo op´cenito da je ac ≡ bc mod k i M (c, k) = 1. Znaˇci da postoji cijeli broj n takav da je ac − bc = nk. Sada je c (a − b) = nk i znamo li da su c i k relativno prosti, tada je a − b = km, gdje je m = n/c. Ukoliko c i k nisu relativno prosti zakljuˇcak ne vrijedi. Vrijedi sljede´ca propozicija: Propozicija 3.6 Ako je ac ≡ bc mod k i M (c, k) = 1 tada vrijedi da je a ≡ b mod k. Upotrebom prethodne propozicije moˇze se dokazati tzv. mali Fermatov teorem. Teorem 3.2 Neka je p prost broj, koji nije djelitelj od a. Tada vrijedi ap−1 ≡ 1 mod p. Dokaz. Budu´ci da je M (p, a) = 1 po propoziciji 3.6 znamo da nikoja dva cijela broja izmedu brojeva a, 2a, ..., (p − 1) a nisu kongruentna modulo p. Nadalje, nijedan od brojeva a, 2a, ..., (p − 1) a nije kongruentan 0 mod p. Prema tome brojeve a, 2a, ..., (p − 1) a moˇzemo reducirati modulo k na brojeve 1, 2, ..., (p − 1) . Sada je a · 2a · ... · (p − 1) a ≡ 1 · 2 · ... · (p − 1) mod k, pa dijeljenje sa (p − 1)! daje traˇzenu jednakost. Primijetimo da smijemo dijeliti jer su p i (p − 1)! relativno prosti. Posvetimo joˇs malo prostora rjeˇsavanju osnovnih tipova jednadˇzbi s kongruencijama.
POGLAVLJE 3. DISKRETNA MATEMATIKA
57
Promotrimo, prvo, jednadˇzbu a + x ≡ b mod k. Takva jednadˇzba uvijek ima rjeˇsenje budu´ci da svaki cijeli broj a ima aditivni inverz modulo k. To znaˇci da postoji broj a0 takav da je a + a0 ≡ 0 mod k. Vidimo da je u skladu s redukcijom a0 = −a ili a0 = k − a. Dakle, jednadˇzba a + x ≡ b mod k se rjeˇsava tako da se aditivni inverz od a doda s lijeve i desne strane kongruencije. U drugu ruku, jednadˇzbe tipa ax ≡ b mod k nemaju uvijek rjeˇsenje, kao ˇsto se vidi na primjeru jednadˇzbe 2x ≡ 1 mod 4. Razlog leˇzi u propoziciji 3.6, jer multiplikativni inverz od a postoji jedino ako su a i k relativno prosti. Dakle, ako je M (a, k) = 1 tada postoji takav v da je va = 1 mod k. Budu´ci da je najve´ca zajedniˇcka mjera dvaju brojeva uvijek njihova linearna kombinacija, postoji cijeli broj t takav da je va + tk = 1. Ova nam relacija omogu´cava raˇcunanje multiplikativnog inverza od a. Primjer 3.9 Rijeˇsimo jednadˇzbu 15x ≡ 23 mod 119. Nadimo multiplikativni inverz od 15 modulo 19. Imamo 119(−1) + 15(8) = 1, pa je inverz od 15 modulo 119 broj 8. Sada je x ≡ 23·8 mod 119 = 184 mod 119 = 65. Rjeˇsenje x = 65 je jedinstveno mod 119, znaˇci da je svako drugo rjeˇsenje kongruentno mod 119 sa 65. Zadatak 3.7 Rijeˇsite sljede´ce jednadˇzbe s kongruencijama: 1. 4x ≡ 2 mod 6, 2. 5x ≡ 5 mod 25, 3. x2 ≡ 4 mod 13, 4. x2 ≡ 1 mod 7. Kongruencije se primjenjuju u ˇsirokom podruˇcju kodiranja proizvoda, ali i u kriptografiji. Slijede dvije primjene modularne ekvivalencije (kongruencije). ISBN - International Standard Book Number Od godine 1968. svakoj se knjizi pridruˇzuje ISBN koji sadrˇzi informaciju o zemlji izdanja, izdavaˇcu i samoj knjizi. Te su informacije sadrˇzane u 9 znamenaka, a deseta znamenka sluˇzi za provjeru prvih 9 znamenaka. Neka su znamenke u ISDN-u oznaˇcene sa a1 , a2 , ..., a10 , gdje je prvih 9 znamenaka u rasponu od 0 do 9. Broj a10 je izabran u rasponu od 0 do 10 tako da je a1 + 2a2 + 3a3 + ... + 10a10 ≡ 0 (mod 11) .
58
3.3. RELACIJA EKVIVALENCIJE
Primjer 3.10 Neka je prvih 9 znamenki u ISBN-u 953-173-918. Izraˇcunajmo desetu znamenku. 9+2 (5)+3 (3)+4 (1)+5 (7)+6 (3)+7 (9)+8 (1)+9 (8)+10a10 ≡ 0 (mod 11) 0 mod 11 ≡ 228 + 10a10 11 · 28 = 308, pa je a10 = 8 Dakle, ISBN glasi 953-173-918-8. Uzmimo sada da je ISBN pogreˇsno zapisan npr. promijenimo 3. znamenku. 950-173-918-8 Provjerimo ga. 9+2 (5)+3 (0)+4 (1)+5 (7)+6 (3)+7 (9)+8 (1)+9 (8)+80 ≡ 0 (mod 11) 305 6= 0 (mod 11) . Moˇze se pokazati da na ovaj naˇcin uvijek detektiramo pogreˇsku, ukoliko je ona u jednoj znamenci. Moˇze se, medutim dogoditi da se pogreˇske u dvije znamenke anuliraju pa ih na ovaj naˇcin ne uoˇcavamo. Zadatak 3.8 U prethodnom primjeru promijenite dvije znamenke tako da test ne registrira pogreˇsku. Zadatak 3.9 Provjerite na prethodnom primjeru da test reagira na zamjenu mjesta znamenaka. Universal Product Code Ve´cina proizvoda na trˇziˇstu nosi identifikacijski kod u obliku uzorka koji se sastoji od tanjih i debljih crta (razlog za naziv bar code). Taj se kod zove Universal Product Cod (UPC). UPC je 12-stero znamenkasti broj oblika x-xxxxx-xxxxx-x, gdje svaki x predstavlja broj izmedu 0 i 9. Ponovno je zadnja znamenka ona pomo´cu koje provjeravamo prethodnih 10. Nakon ˇsto skener oˇcita pogreˇsno UPC, zadnja znamenka ukaˇze na pogreˇsku. Provjera se radi po sljede´cem pravilu. 3(suma znamenaka na parnim mjestima) + (suma znamenaka na neparnim mjestima) ≡ 0(mod10) Teorem 3.3 (Kineski teorem o ostacima) Neka su m1 , m2 , . . . , mr po parovima relativno prosti brojevi te neka su a1 , a2 , . . . , ar cijeli brojevi. Tada sustav kongruencija x ≡ a1 (mod m1 ) x ≡ a2 (mod m2 ) .. . x ≡ ar (mod mr ) ima rjeˇsenja.
(3.2)
POGLAVLJE 3. DISKRETNA MATEMATIKA
59
Ako je x0 jedno rjeˇsenje, onda su sva rjeˇsenja sustava 3.2 dana sa x ≡ x0 (mod m1 · m2 · . . . · mr ). m Dokaz. Neka je m = m1 · m2 · . . . · mr . Definiramo nj = m , j = 1, . . . , r. j Tada je (nj , mj ) = 1. Da bismo pokazali da sustav 3.2 ima rjeˇsenja koristimo sljede´ci teorem:
Teorem 3.4 Ako su a i m prirodni brojevi te b ∈ Z, kongruencija ax ≡ b(mod m) ima rjeˇsenje ako i samo ako d = (a, m) dijeli b. Ako je ovaj uvjet zadovoljen, onda gornja kongruencija ima d rjeˇsenja modulo m. Prema teoremu 3.4 za aj ∈ Z i brojeve nj , mj takve da je (nj , mj ) = 1 vrijedi da postoji xj ∈ Z koji je rjeˇsenje kongruencije nj xj ≡ aj (mod mj ), j = 1, . . . , r. ˇ Uzmimo sada da je x0 = n1 x1 + n2 x2 + . . . + nr xr . Zelimo pokazati da ako je x0 jedno rjeˇsenje sustava 3.2 da su tada sva rjeˇsenja tog sustava dana sa x ≡ x0 (mod m1 · m2 · . . . · mr ). Za x0 = n1 x1 + n2 x2 + . . . + nr xr vrijedi: x0 ≡ nj xj ≡ aj (mod mj ) tj. x0 je rjeˇsenje sustava 3.2. Neka su sada x i y dva rjeˇsenja sustava 3.2. Tada vrijedi
x ≡ aj (mod mj ) y ≡ aj (mod mj ), j = 1, . . . , r (jer x i y moraju zadovoljavati svaku kongruenciju). Oduzimanjem tih dviju kongruencija dobivamo: x − y ≡ 0(mod mj ), j = 1, . . . , r tj. x ≡ y(mod mj ), j = 1, . . . , r Kako su mj -ovi u parovima relativno prosti, vrijedi x ≡ y(mod m1 · m2 · . . . · mr ), ˇcime je teorem dokazan.
60
3.3. RELACIJA EKVIVALENCIJE
Primjer 3.11 Rijeˇsite sustav kongruencija x ≡ 1(mod 5) x ≡ 5(mod 7) x ≡ 4(mod 11) Rjeˇ senje: m1 = 5, m2 = 7, m3 = 11 (mi , mj ) = 1, ∀i, j = 1, 2, 3 m = m1 · m2 · m3 = 385 n1 = mm1 = 385 5 = 77 m 385 n2 = m2 = 7 = 55 n3 = mm3 = 385 11 = 35 x = n1 x1 + n2 x2 + n3 x3 x = 77x1 + 55x2 + 35x3 , pri ˇcemu x1 , x2 , x3 zadovoljavaju
77x1 ≡ 1(mod 5) 55x1 ≡ 5(mod 7) 35x1 ≡ 4(mod 11) 75x1 + 2x1 ≡ 1(mod 5) ⇒ 2x1 ≡ 1(mod 5) ⇒ x1 ≡ 3(mod 5) 49x2 + 6x2 ≡ 5(mod 7) ⇒ 6x2 ≡ 5(mod 7) ⇒ x2 ≡ 2(mod 7) 33x3 + 2x3 ≡ 4(mod 11) ⇒ 2x3 ≡ 4(mod 11) ⇒ x3 ≡ 2(mod 11)
x0 = 77 · 3 + 55 · 2 + 35 · 2 = 411 ⇒ x ≡ 411(mod 385) x ≡ 26(mod 385)
3.3.3
Aritmetika u Zk
Budu´ci da je kongruencija modulo k relacija ekvivalencije, ona definira particiju skupa Z u neprazne disjunktne klase X0 = ¯ 0, X1 = ¯ 1, ..., Xk−1 = k − 1. Znamo da je k−1 [ Z= Xi . i=0
Definicija 3.9 Skup cijelih brojeva modulo k u oznaci Zk je skup svih klasa ekvivalencije s obzirom na kongruenciju na Z.
POGLAVLJE 3. DISKRETNA MATEMATIKA
61
Dakle, Zk je kvocijentni skup od Z s obzirom na ≡ . Aritmetiku u Zk uvodimo tako da klase zbrajamo i mnoˇzimo preko zbrajanja i mnoˇzenja predstavnika pojedinih klasa. Dakle zbrajanje ⊕ i mnoˇzenje ⊗ klasa definiramo na sljede´ci naˇcin:
[a]k ⊕ [b]k = [a + b]k , [a]k ⊗ [b]k = [ab]k . Iako se svaka klasa moˇze predstaviti preko beskonaˇcno mnogo predstavnika, pokazuje se da je rezultat primjene ovih dviju operacija ne ovisi o predstavnicima klasa. Klasu s ostacima 0 oznaˇcavamo ˇcesto s 0, a onu s ostacima jednakim 1 s 1. Teorem 3.5 Operacije zbrajanja ⊕ i mnoˇzenja ⊗, za a, b, c ∈ Zk , imaju sljede´ca svojstva: 1. a ⊕b ∈ Zk , 2. a ⊕b = b ⊕a, 3. (a ⊕ b) ⊕ c = a ⊕ (b ⊕ c) , 4. a ⊕ 0 = a. 5. a ⊗b ∈ Zk , 6. a ⊗b = b ⊗a, 7. (a ⊗ b) ⊗ c = a ⊗ (b ⊗ c) , 8. a ⊗ 1 = a, 9. a ⊗ (b ⊕ c) = (a ⊗ b) ⊕ (a ⊕ c), 10. Za svaki a ∈ Zk postoji jedinstveni element −a ∈ Zk takav da je a ⊕(−a) = 0. Iz svojstva 10 slijedi da svaki element iz Zk ima aditivni inverz. Iz prethodne toˇcke znamo da ´ce multiplikativni element postojati jedino ako je k prost broj. Nabrojena svojstva ´ce osigurati da (Zk , ⊕, ⊗) ima strukturu polja za sluˇcaj kad je k prost broj o ˇcemu ´ce biti viˇse govora u poglavlju o algebarskim strukturama.
62
3.3. RELACIJA EKVIVALENCIJE
3.3.4
Joˇ s neka svojstva binarnih relacija
Evo joˇs nekih svojstava binarnih relacija, koja su nam potrebna za definiciju uredajnih relacija. Definicija 3.10 Binarna relacija ρ ⊆ A × A je: 1. irefleksivna ako vrijedi (∀x ∈ A) (x, x) ∈ ρc , 2. antisimetriˇcna ako vrijedi (∀x, y, ∈ A) (x, y) ∈ ρ ∧ (y, x) ∈ ρ ⇒ x = y, 3. asimetriˇcna ako vrijedi (∀x, y, ∈ A) (x, y) ∈ ρ ⇒ (y, x) ∈ ρc , 4. kompletna ako vrijedi (∀x, y ∈ A, x 6= y) (x, y) ∈ ρ ∨ (y, x) ∈ ρ, 5. strogo kompletna ako vrijedi (∀x, y ∈ A) (x, y) ∈ ρ ∨ (y, x) ∈ ρ, Zapiˇsimo joˇs algebarske karakterizacije svojstava binarnih relacija. Zadan je skup A i ρ ⊆ A × A. Paru (a, b) pridruˇzuje se kod cab i vrijedi cab = 1 ⇔ (a, b)²ρ, a cab = 0 ⇔ (a, b) ∈ / ρ. Svojstva binarnih relacija mogu se algebarski interpretirati pomo´cu kodova na sljede´ci naˇcin: Svojstvo refleksivnost irefleksivnost simetrija antisimetrija asimetrija kompletnost stroga kompletnost tranzitivnost
Algebarska reprezentacija caa = 1 ∀a ∈ A caa = 0 ∀a ∈ A cab − cba = 0 ∀a, b ∈ A cab + cba ≤ 1 ∀a, b ∈ A ∧ a 6= b cab + cba ≤ 1 ∀a, b ∈ A cab + cba ≥ 1 ∀a, b ∈ A ∧ a 6= b cab + cba ≥ 1 ∀a, b ∈ A cac ≥ cab + cbc − 1 ∀a, b, c ∈ A Tablica 3.1
POGLAVLJE 3. DISKRETNA MATEMATIKA
3.4
63
Uredajne binarne relacije
Postoje relacije koje imaju po nekoliko od nabrojanih svojstava. Za problem uredivanja skupova posebno su vaˇzne sljede´ce relacije koje zajedniˇckim imenom zovemo uredajne relacije: 1. relacija djelomiˇcnog (parcijalnog) uredaja: refleksivna, antisimetriˇcna, tranzitivna; 2. relacija slabog uredaja: strogo kompletna, tranzitivna; 3. relacija kvazi-uredaja: refleksivna, tranzitivna. 4. relacija totalnog (linearnog) uredaja: antisimetriˇcna, strogo kompletna, tranzitivna.
3.4.1
Relacija parcijalnog uredaja
Relacija parcijalnog uredaja poop´cava relaciju ≤ na skupu realnih brojeva, tako da preuzima tri njezina najvaˇznija svojstva. Prisjetimo se da za relaciju ≤ vrijedi svojstvo refleksivnosti jer je a ≤ a za svaki realni broj a. Nadalje, ta je relacija antisimetriˇcna jer iz a ≤ b i b ≤ a slijedi a = b. Na kraju, relacija je i tranzitivna jer oˇcigledno vrijedi da ako je a ≤ b i b ≤ c, tada je a ≤ c. To je razlog ˇsto ovu relaciju ˇcesto oznaˇcavamo oznakom ¹ . Definicija 3.11 Parcijalno uredeni skup je par (A, ¹) koji se sastoji od skupa A i relacije ¹ parcijalnog uredaja na skupu A. Relacija parcijalnog uredaja je refleksivna, antisimetriˇcna i tranzitivna. Primjer 3.12 Poznati primjeri parcijalno uredenih skupova su 1. (R, ≤), tj. skup realnih brojeva uz relaciju ≤, 2. (P (A) , ⊆), tj. partitivni skup nekog skupa A uz relaciju podskupa ⊆, 3. (N, |), tj. skup prirodnih brojeva uz relaciju dijeljenja bez ostatka. Primijetite da < nije relacija parcijalnog uredaja na skupovima brojeva jer ne vrijedi svojstvo refleksivnosti. Zadatak 3.10 Na skupu prirodnih brojeva N dana je relacija ρ takva da je aρb ⇔ a ≤ 3b. Da li je ρ relacija parcijalnog uredaja? Za grafiˇcki prikaz relacija parcijalnog uredaja ˇcesto se upotrebljavaju Hasseovi dijagrami. Hasseovi dijagrami prikazuju elemente skupa kao vrhove grafa, koriste´ci svojstvo da ako je a ”manji” od b tj. a ¹ b, vrh a bit ´ce na slici povezan sa b, ali smjeˇsten ispod njega. Hasseovi dijagrami imaju manje lukova od usmjerenih grafova koji prikazuju relacije, poˇsto se ne crtaju svi lukovi, zato jer su neki dani posredno kao kombinacija dvaju ili viˇse lukova. Na primjer, ako je {1} ⊆ {1, 2}, {1, 2} ⊆ {1, 2, 3} i {1} ⊆ {1, 2, 3}, vrhovi {1}, {1, 2}, {1, 2, 3} se crtaju jedan iznad drugog, ali lukovi se crtaju samo
64
3.4. UREDAJNE BINARNE RELACIJE
izmedu {1} i {1, 2} te izmedu {1, 2} i {1, 2, 3}, jer se zbog rasporeda na razliˇcite visine i postoje´ca dva luka podrazumijeva luk izmedu {1} i {1, 2, 3}. Kad je skup parcijalno ureden ne znaˇci da svaka dva elementa skupa moˇzemo usporedivati. Uzmimo da je A = {1, 2, 3} i relacija ⊆ dana na P (A) . Podskupovi {1, 2} i {3} nisu usporedivi, tj. {1, 2} 6⊆ {3} i {3} 6⊆ {1, 2}. Definicija 3.12 Parcijalni uredaj na skupu A je linearan ili totalni uredaj ako vrijedi: ∀a, b ∈ A, a ¹ b ili b ¹ a. (A, ¹) je linearno ureden skup. Za linearno uredeni skup upotrebljavaju se nazivi totalno uredeni skup i lanac. Primjer 3.13 Parcijalno uredeni skup (R, ≤) je lineano uredeni skup, ali op´cenito (P (A) , ⊆) nije linearno uredeni skup. Definicija 3.13 Neka je (A, ¹) parcijalno ureden skup i B ⊆ A. Tada 1. b ∈ B je najve´ci element u B ako ∀b0 ∈ B ⇒ b0 ¹ b, 2. b ∈ B je najmanji element u B ako ∀b0 ∈ B ⇒ b ¹ b0 . Primjer 3.14 (P ({a, b}) , ⊆) prikaˇzite pomo´cu grafa. Ispitajte postojanje najve´ceg i najmanjeg elementa za razliˇcite podskupove ovog skupa.
{a}
{a,b}
∅
{b} Slika 3.3
POGLAVLJE 3. DISKRETNA MATEMATIKA
65
a) B = {{a}} , {a} je najve´ci i najmanji element, b) B = {{a} , {b}} nema ni najve´ceg ni najmanjeg elementa, c) B = {∅, {a}} {a} je najve´ci element, ∅ je najmanji element. Zadatak 3.11 Parcijalno uredeni skup iz prethodnog primjera prikaˇzite pomo´cu Hasseovog dijagrama. Primjer 3.15 Nacrtajmo Hasseov dijagram za (P (a, b, c), ⊆).
{a,b,c}
{a,b}
{a,c}
{b,c}
{a}
{b}
{c}
∅ Slika 3.4 Zadatak 3.12 Za parcijalno uredeni skup iz prethodnog primjera nacrtajte usmjereni graf. Teorem 3.6 Neka je (A, ¹) parcijalno ureden skup i B ⊆ A. Ako u B postoji najve´ci element, onda je on jedinstven. Dokaz. Neka su a, b dva razliˇcita, najve´ca elementa. a je najve´ci ⇒ b ¹ a, b je najve´ci ⇒ a ¹ b. Zbog antisimetriˇcnosti slijedi da je onda a = b. Definicija 3.14 Binarna relacija ρ na A je relacija dobrog uredaja ako je ρ linearni uredaj na A i ako svaki neprazni podskup od A ima najmanji element.
66
3.4. UREDAJNE BINARNE RELACIJE
Primjer 3.16 (N, ≤) je relacija dobrog uredaja. (Z, ≤) , (R, ≤) nisu relacije dobrog uredaja. U parcijalno uredenom skupu se osim najve´ceg elementa moˇze definirati i maksimalni element, koji ne mora biti jedinstven. Osnovno je kod definicije maksimalnog elementa da ne postoji element koji je od njega ve´ci, ali on ne mora biti od svih ve´ci. To se moˇze dogoditi zato jer u parcijalno uredenom skupu ne moraju svi elementi biti usporedivi. Dakle, tko je god usporediv s maksimalnim elementom, manji je od njega. S druge strane moˇze postojati neki drugi maksimalni element koji nije usporediv s prvim. Definicija 3.15 Neka je (A, ¹) parcijalno ureden skup i B ⊆ A. Tada 1. b ∈ B je maksimalni element u B ako b0 ∈ B i b0 ¹ b ⇒ b0 = b, 2. b ∈ B je minimalni element u B ako b0 ∈ B i b ¹ b0 ⇒ b0 = b. Za svaka dva elementa u parcijalno uredenom skupu moˇzemo definirati najve´cu donju medu i najmanju gornju medu na sljede´ci naˇcin. Definicija 3.16 Neka je (A, ¹) parcijalno ureden skup i a, b ∈ A. Tada je d ∈ A najve´ca donja meda elemenata a, b, ako vrijedi da je 1. d ¹ a, d ¹ b, 2. ako postoji d0 ∈ A takav da je d0 ¹ a, d0 ¹ b, onda je d0 ¹ d. Definicija 3.17 Neka je (A, ¹) parcijalno ureden skup i a, b ∈ A. Tada je g ∈ A najmanja gornja meda elemenata a, b, ako vrijedi da je 1. a ¹ g, b ¹ g, 2. ako postoji g 0 ∈ A takav da je a ¹ g 0 , b ¹ g 0 , onda je g ¹ g 0 . Uoˇcimo da je na skupu realnih brojeva uz relaciju ≤ najve´ca donja meda dva broja manji od dva broja, a najmanja gornja meda jednaka je ve´cem od brojeva. Na parcijalno uredenom skupu (P (A) , ⊆) najve´ca donja meda elemenata X, Y je X ∩ Y, a najmanja gornja meda je X ∪ Y. Definicija najve´ce donje i najmanje gornje mede moˇze se proˇsiriti na nizove elemenata parcijalno uredenog skupa. Posebno, u skupovima brojeva kao ˇsto su R, Q, Z, N mogu se promatrati beskonaˇcni nizovi brojeva i njihove mede. Postavlja se pitanje postoji li strogo padaju´ci niz brojeva u svakom od promatranih skupova brojeva. Oˇcito, u skupu prirodnih brojeva strogo padaju´ci niz ne postoji. Nadalje, moˇzemo rjeˇsavati problem da li omedeni, strogo padaju´ci niz racionalnih brojeva ima najve´cu donju medu koja je racionalan broj. Odgovor nam je poznat iz matematiˇcke analize i negativan
POGLAVLJE 3. DISKRETNA MATEMATIKA
67
je. Medutim ograniˇceni, strogo padaju´ci niz realnih brojeva ima najve´cu donju medu koja je realni broj. Ova je tvrdnja vrlo vaˇzna, pa se ˇcesto uzima kao aksiom za gradnju skupa realnih brojeva. Taj aksiom zovemo aksiomom potpunosti za skup realnih brojeva. Definicija 3.18 Parcijalno uredeni skup (A, ¹) kod kojeg svaka dva elementa imaju najve´cu donju medu i najmanju gornju medu zovemo mreˇza (eng. lattice). Parcijalno uredeni skupovi (R, ≤) i (P (A) , ⊆) su mreˇze. Zadatak 3.13 Dokaˇzite da ako postoji najve´ca donja meda dvaju elemenata u parcijalno uredenom skupu onda je ona jedinstvena. Dokaˇzite da ako postoji najmanja gornja meda dvaju elemenata u parcijalno uredenom skupu onda je ona jedinstvena. Zadatak 3.14 Pokaˇzite da je (P (A) , ⊆) (k (A) ≥ 2) parcijalno uredeni skup koji ima najve´ci i najmanji element, ali skup nije linearno ureden.
3.4.2
Relacija djeljivosti na skupu cijelih brojeva
Neka su a i b dva cijela broja. Kaˇzemo da ako a dijeli b znaˇci da postoji neki drugi cijeli broj q takav da je b = qa. U tom sluˇcaju upotrebljavamo notaciju a | b i kaˇzemo da je a divizor (ili djelitelj ili faktor), q kvocijent, te da a dijeli b. Broj b je tada viˇsekratnik broja a. Ukoliko a ne dijeli b piˇsemo a - b. Uvijek vrijedi 1 | a, za svaki cijeli broj a i b | 0, za svaki cijeli broj b 6= 0. Primjer 3.17 Neka su a, b, c ∈ Z i a | b, a | c. Dokaˇzimo da tada a dijeli linearnu kombinaciju brojeva b i c, tj. da vrijedi a | (xb + yc) za sve cijele brojeve x i y. Tvrdnju ´cemo dokazati. Iz pretpostavki tvrdnje slijedi da postoje kvocijenti q i p takvi da je b = qa i c = pa. Za bilo koja dva cijela broja x i y raˇcunamo: xb + yc = xqa + ypa = (xq + yp) a, ˇcime je tvrdnja dokazana. Propozicija 3.7 Uredeni skup (N, |) je parcijalno ureden skup. Dokaz. Treba ispitati vrijede li tri svojstva relacije parcijalnog uredaja: refleksivnost, antisimetriˇcnost i tranzitivnost. Refleksivnost vrijedi jer za svaki prirodni broj n vrijedi n | n. Da bismo dokazali antisimetriˇcnost pretpostavimo da postoje dva prirodna broja n i m takva da vrijedi n | m i m | n. Slijedi da postoje kvocijenti q i p takvi da je m = qn i n = pm. Uvrˇstavanjem n iz druge jednakosti u prvu dobijamo m = pqm, pa slijedi da je pq = 1. U skupu prirodnih brojeva mogu´ce je samo jedno rjeˇsenje i to p = q = 1. Iz toga slijedi m = n, pa je antisimetriˇcnost relacije | na skupu prirodnih brojeva dokazana. Primjetimo
68
3.4. UREDAJNE BINARNE RELACIJE
da u skupu cijelih brojeva nalazimo i rjeˇsenje p = q = −1, koje ´ce znaˇciti da ne vrijedi antisimetriˇcnost relacije | na skupu Z. Dokaˇzimo sada tranzitivnost. Neka su n, m, s ∈ N takvi da vrijedi n | m i m | s. Treba dokazati da n | s. Iz pretpostavke slijedi da postoje kvocijenti q i p takvi da je m = qn i s = pm. Iz toga slijedi da je s = pqn, ˇsto znaˇci da n dijeli s. Zapamtimo da (Z, |) nije parcijalno uredeni skup. Koja svojstva ne vrijede? Znamo da je najve´ci zajedniˇcki djelitelj dva cijela broja razliˇcita od nule, najve´ci cijeli broj koji dijeli oba zadana broja. Najve´ci zajedniˇcki djelitelj od a i b, zovemo joˇs i mjera dva broja i oznaˇcavamo ga sa M (a, b) ili D (a, b) . Pogledajmo prethodnu definiciju u kontekstu parcijalno uredenih skupova. Ovdje to znaˇci da parcijalno uredenom skupu (N, |) interpretiramo pojam najve´ceg zajedniˇckog djeljitelja kao najve´cu donju medu para brojeva. To nam i garantira jedinstvenost najve´ceg zajedniˇckog djelitelja para prirodnih brojeva. Propozicija 3.8 Najve´ci zajedniˇcki djelitelj para prirodnih brojeva u parcijalno uredenom skupu (N, ≤) predstavlja najve´cu donju medu tih brojeva. Korolar 3.1 Najve´ci zajedniˇcki djelitelj dvaju prirodnih brojeva je jedinstveni je prirodni broj. Problem nalaˇzenja najve´ceg zajedniˇckog djelitelja obraden je u poglavlju o algoritmima. Tamo je izloˇzen i Euklidov algoritam pomo´cu kojeg se efektivno nalazi najve´ci zajedniˇcki djelitelj para cijelih brojeva razliˇcitih od nule. On se temelji na teoremu o dijeljenju prirodnih brojeva, koji tvrdi da za svaka dva prirodna broja a, b postoje prirodni brojevi q i r takvi da vrijedi a = qb+r i 0 ≤ r < b. Iz toga izlazi da je M (a, b) = M (b, r) , pa tu ˇcinjenicu ponavljamo uzastopno u Euklidovom algoritmu. Za cijele brojeve a, b kaˇzemo da su relativno prosti ako im je M (a, b) = 1, tj. 1 je jedini prirodni broj koji dijeli relativno proste brojeve. Prosti brojevi imaju istaknutu ulogu. Ponovimo, prirodan broj p ≥ 2 ≥ je prost broj ako je djeljiv samo s brojem jedan i sa samim sobom. Prirodne brojeve koji nisu prosti zovemo sloˇzenim brojevima. Posebno zanimljiv problem teorije brojeva je problem nalaˇzenja prostih brojeva. Za odredivanje relativno malih prostih brojeva upotrebljava se tzv. Eratostenovo sito. ˇ Cinjenica da se svaki prirodan broj n > 1 moˇze na jedinstveni naˇcin prikazati u obliku produkta prostih brojeva zove se fundamentalni teorem aritmetike. Ovaj se teorem dokazuje jakim oblikom matematiˇcke indukcije. Definira se i najmanji zajedniˇcki viˇsekratnik cijelih brojeva a i b razliˇcitih od nule kao najmanji prirodni broj koji je viˇsekratnik brojeva a i b. Oznaka za najmanji zajedniˇcki viˇsekratnik je V (a, b) .
POGLAVLJE 3. DISKRETNA MATEMATIKA
69
Propozicija 3.9 Najmanji zajedniˇcki viˇsekratnik dvaju prirodnih brojeva u parcijalno uredenom skupu (N, ≤) predstavlja najmanju gornju medu tih brojeva. Korolar 3.2 Najmanji zajedniˇcki viˇsekratnik dvaju prirodnih brojeva je jedinstven. Znamo da za svaka dva prirodna broja postoje njihovi zajedniˇcki djelitelji, jedan od njih je uvijek broj 1, pa je skup zajedniˇckih djelitelja neprazan. S druge strane taj je skup omeden odozgo sa zadanim prirodnim brojevima. Znamo da svaki odozgo omedeni skup prirodnih brojeva ima najve´ci element, pa to osigurava postojanje najve´ceg zajedniˇckog djelitelja. Nadalje, poznato je da uvijek postoji barem jedan zajedniˇcki viˇsekratnik para n, m prirodnih brojeva (broj nm) pa postoji i njihov najmanji zajedniˇcki viˇsekratnik. Postojanje najmanjeg zajedniˇckog viˇsekratnika je posljedica principa dobrog uredaja za prirodne brojeve. Princip dobrog uredaja (eng. Well-Ordering Principe) postulira da svaki neprazni podskup skupa prirodnih brojeva ima najmanji element. Kao posljedicu ovih razmatranja imamo konstataciju da svaki par prirodnih brojeva ima najmanji zajedniˇcki viˇsekratnik i najve´cu zajedniˇcku mjeru pa parcijalno uredeni skup (N, |) ispunjava zahtjeve da bude mreˇza. Propozicija 3.10 Parcijalno uredeni skup (N, |) je mreˇza. Zadatak 3.15 Pokaˇzite da za cijele brojeve a, b vrijedi M (a, b) V (a, b) = |ab| .
3.5
Funkcije
Pojam funkcije toliko je vaˇzan da se na razliˇcite naˇcine i u razliˇcitim ulogama pojavljuje u svim granama matematike, ali i u drugim znanstvenim disciplinama i praktiˇcnim problemima. Evo op´cenite definicije funkcije. Definicija 3.19 Funkcija f je preslikavanje (pridruˇzivanje) elemenata izmedu dva skupa (domene i kodomene) i to takvo da svakom elementu prvog skupa (domene) pridruˇzuje jedan i samo jedan element drugog skupa (kodomene). Funkcija se moˇze shvatiti i kao binarna relacija f na Kartezijevom produktu A × B sa svojstvom da za svaki a ∈ A, postoji jedinstveni b ∈ B takav da je (a, b) ∈ f. Dakle, svi uredeni parovi u relaciji koja je ujedno i funkcije imaju medusobno razliˇcite prve komponente. Piˇsemo f˙ : A → B, gdje A predstavlja domenu, a B kodomenu funkcije f.
70
3.5. FUNKCIJE
Funkcije se mogu zadavati formulom, nabrajanjem uredenih parova, grafiˇcki te pomo´cu svojstva. Nabrajanjem elemenata funkcija se moˇze zadati iskljuˇcivo u diskretnom sluˇcaju, a posebno kad radimo s konaˇcnim skupovima. Pridruˇzivanje koje svakom gradaninu Hrvatske pridruˇzuje njegov JMBG (jedinstveni matiˇcni broj gradana) je primjer funkcije koja se moˇze zadati nabrajanjem elemenata. Pri tome je prvi ˇclan para gradanin Hrvatske (opisan preko odredenih atributa), a drugi ˇclan para je 13-tero znamenkasti prirodni broj. Definicija 3.20 Funkcije f i g su jednake ako 1. imaju iste domene, 2. imaju iste kodomene, 3. Za svaki x ∈ Df = Dg je f (x) = g(x). Primjer 3.18 Neka su zadani skupovi A={ 1, 2, 3} i B={ 1, 2, 3, 4, 5, 6, 7, 8, 9} i funkcija f : A → B kao relacija f = {(1, 1) , (2, 4) , (3, 9)} . Tu funkciju moˇzemo zadati i pomo´cu formule f (x) = x2 uz obavezni dodatak da je f˙ : A → B. Funkcija zadana istom formulom, ali s domenom i kodomenom u skupu realnih brojeva bila bi predstavljena parabolom u koordinatnom sustavu u ravnini. Na razini pridruˇzivanja elemenata, funkciju f : A → B piˇsemo 1 7→ 1, 2 7→ 4, 3 7→ 9. Kad se radi o funkciji f obiˇcno umjesto (a, b) ∈ f piˇsemo b = f (a) . Odnosno, za svaki b ∈ B jednadˇzba b = f (x) ima rjeˇsenje x ∈ A.
3.5.1
Kompozicija funkcija
Neka su f : Df → A, g : Dg → B funkcije. Ako je B ⊆ Df tada za ∀x ∈ Df moˇzemo definirati kompoziciju funkcija f i g, (f ◦ g) (x) = f (g (x)) . Dakle, kompozicija se sastoji od dva preslikavanja: x ½ g (x), pa onda g (x) ½ f (g (x)) . Identiteta ili identiˇcno preslikavanje na skupu A je takvo preslikavanje id : A → A za koje je id (x) = x, ∀x ∈ A. Za svaku funkciju F vrijedi id ◦ f = f.
POGLAVLJE 3. DISKRETNA MATEMATIKA
3.5.2
71
Bijekcija. Inverzna funkcija
Definicija 3.21 Funkcija f : D → K je injekcija ako razliˇcite elemente iz domene preslikava u razliˇcite elemente kodomene, tj. ako ∀x1 , x2 ∈ D, x1 6= x2 =⇒ f (x1 ) 6= f (x2 ) . Funkcija f : D → K je surjekcija ako svaki element iz kodomene ima svoju prasliku u domeni, tj. ako ∀y ∈ K, ∃x ∈ D takav da vrijedi f (x) = y. Funkcija f : D → K je bijekcija ako je surjekcija i injekcija. Teorem 3.7 Za funkciju f : D → K koja je bijekcija postoji inverzna funkcija f −1 : K → D za koju vrijedi f ◦ f −1 = id |K , f −1 ◦ f = id |D
(3.3)
Zadatak 3.16 Ispitajte da li je funkcija f (a, b) = 3a + b, f : N × N → N surjekcija, injekcija, odnosno bijekcija.
3.5.3
Funkcije kao relacije
Definicija 3.22 Relacija f ⊆ A × B je funkcija ako (∀a ∈ A) (∃b ∈ B) tako da je (a, b) ∈ f i ne postoje dva razliˇcita para s istom prvom komponentom. Definicija 3.23 Funkcija f je konstantna funkcija ili konstanta ako ∃!b ∈ B takav da (∀a ∈ A) (a, b) ∈ f. Zadatak 3.17 Napiˇsite definicije surjekcije, injekcije i bijekcije koriste´ci pojam funkcije kao relacije. −1 Definicija ¡ −1 ¢3.24 Neka je f bijekcija. Inverzna funkcija f je obrat relacije ¯ f f = f , tj. f −1 = {(b, a) : (a, b) ∈ f } .
Zadatak 3.18 Zadana je funkcija f : R → R dana sa f (x) = x |x| . Ispitajte je li zadana funkcija f bijekcija, te ukoliko jest, nadite njezinu inverznu funkciju. Zadatak 3.19 Pretpostavimo da je S skup svih oˇzenjenih ljudi i f : S → S funkcija koja svakoj osobi iz S pridruˇzuje njezinog braˇcnog partnera. Je li zadana funkcija bijekcija? Izraˇcunajte f ◦ f.
72
3.5. FUNKCIJE
Definicija 3.25 Permutacija je bijekcija na skupu A. Ako je A konaˇcan skup, tada je funkcija p : A → A injekcija ako i samo ako je p surjekcija. Svaka se permutacija konaˇcnog skupa moˇze prikazati kao µ ¶ 1 2 . . . n p= . p (1) p (2) . . . p (n) Definicija 3.26 Svaki sluˇcaj kad u permutaciji vrijedi i < j ⇒ p (i) > p (j) zovemo inverzijom u p. Oznaˇcimo sa I (p) ukupan broj inverzija u p. Definirajmo funkciju sign kao sign : Sn → {−1, 1} , sign (p) = (−1)I(p) , gdje je Sn = {1, 2, . . . , n}. Ako je sign (p) = 1 kaˇzemo da je permutacija parna. Ako je sign (p) = −1 kaˇzemo da je permutacija neparna. Primjer 3.19 Odredite parnost permutacije µ ¶ 1 2 3 4 5 6 p= . 3 4 2 5 1 6
3.5.4
Realne funkcije realne varijable
Definicija 3.27 Realna funkcija realne varijable je takva funkcija kod koje su i domena i kodomena podskupovi skupa realnih brojeva, tj. f : A → B, A, B ⊆ R. Realnu funkciju zovemo algebarskom ako je argument x podvrgnut konaˇcnom broju algebarskih operacija (zbrajanju, oduzimanju, mnoˇzenju konstantom, mnoˇzenju, dijeljenju, potenciranju racionalnim brojem). Funkcije koje nisu algebarske zovemo transcedentnima. Za algebarsku funkciju kaˇzemo da je racionalna ako se kao eksponent varijable javlja samo cijeli broj. Algebarske funkcije koje nisu racionalne zovemo iracionalnima. Polinom n-tog stupnja (cijela racionalna funkcija) je funkcija oblika f (x) = an xn + an−1 xn−1 + ... + a2 x2 + a1 x + a0 , gdje su a0 , a1 , a2 , ..., an−1 , an ∈ R, n ∈ N, an 6= 0. Racionalna funkcija (razlomljena racionalna funkcija) je kvocijent dvaju polinoma, tj. funkcija oblika P (x) , (3.4) f (x) = Q (x) gdje su P (x) , Q (x) polinomi i Q (x) 6= 0.
POGLAVLJE 3. DISKRETNA MATEMATIKA
73
Specijalni sluˇcaj racionalne funkcije je homografska funkcija, odnosno funkcija oblika f (x) =
ax + b , cx + d
uz uvijet x 6= − dc . Od transcendentnih funkcija spomenimo: • ekponencijalnu i logaritamsku, te • trigonometrijske i ciklometrijske (arkus) funkcije.
Domena realnih funkcija realne varijable Navedimo domene vaˇznijih realnih funkcija realne varijable. • racionalna funkcija oblika 3.4 ima domenu Df = {x ∈ R | Q (x) 6= 0} . • iracionalna funkcija oblika f (x) =
p
2k
g (x), k ∈ Z ioma domenu
Df = {x ∈ R | g (x) ≥ 0} . • logaritamskoj funkciji oblika f (x) = loga g (x) , (a > 0, a 6= 1) domena je Df = {x ∈ R | g (x) > 0} . • ciklomerijske funkcije f (x) = arcsin (g (x)) i f (x) = arccos (g (x)) imaju domenu Df = {x | −1 ≤ g (x) ≤ 1} .
3.6
Graf funkcije
Graf Γf funkcije y = f (x) je skup toˇcaka ravnine definiran sa Γf = {(x, f (x)) | x ∈ Df } . Graf implicitno zadane funkcije (jednadˇzbe) F (x, y) = 0 s varijablama x, y je skup toˇcaka (x, y) ravnine, koje zadovoljavaju jednadˇzbu.
3.6.1
Neka svojstva realnih funkcija realne varijable
Slijede vaˇznija svojstva realnih funkcija realne varijable. • Za broj x0 ∈ R kaˇzemo da je nultoˇcka funkcije y = f (x) ako je f (x0 ) = 0. • Za funkciju y = f (x) kaˇzemo da je ograniˇcena odozgo (odozdo) ako ∃M ∈ R (∃m ∈ R), takav da je f (x) ≤ M (f (x) ≥ m), ∀x ∈ Df . Funkcija je ograniˇcena (omedena) ako je ograniˇcena i odozdo i odozgo. Realni broj M zovemo gornjom medom, a m donjom medom funkcije. Najmanji realan broj M , koji je gornja meda funkcije, zovemo najmanjom gornjom medom, a najve´ci realan broj m, koji je donja meda funkcije, zovemo najve´com donjom medom.
74
3.6. GRAF FUNKCIJE • Za funkciju y = f (x) kaˇzemo da raste (pada) na intervalu I ⊆ Df ako za svaki izbor x1 , x2 ∈ I, x1 ≤ x2 vrijedi f (x1 ) ≤ f (x2 ) (f (x1 ) ≥ f (x2 )). Kaˇzemo da funkcija strogo raste (strogo pada) ako za svaki izbor x1 , x2 ∈ I, x1 < x2 vrijedi f (x1 ) < f (x2 ) (f (x1 ) > f (x2 )). Funkciju koja raste, odnosno pada, na cijelom podruˇcju definicije zovemo monotonom. • Za funkciju y = f (x) kaˇzemo da ima lokalni maksimum u toˇcki xM ako ∃O, O ⊆ Df , xM ∈ O, takav da ∀x, x ∈ O, f (x) ≤ f (xM ) . Vrijednost f (xM ) funkcije f u toˇcki xM zovemo maksimalnom vrijednoˇs´cu. Za funkciju y = f (x) kaˇzemo da ima lokalni minimum u toˇcki xm ako ∃O, O ⊆ Df , xm ∈ O takav da ∀x, x ∈ O, f (x) ≥ f (xm ) . Vrijednost f (xm ) funkcije f u toˇcki xm zovemo minimalnom vrijednoˇs´cu. Jednim imenom za lokalni maksimum i minimum kaˇzemo da su lokalni ekstremi funkcije. Za funkciju y = f (x) kaˇzemo da ima strogi lokalni maksimum u toˇcki xM ako ∃O, O ⊆ Df , xM ∈ O takav da ∀x, x ∈ O, f (x) < f (xM ) . Analogno definiramo strogi lokalni minimum. • Za funkciju y = f (x) kaˇzemo da je periodiˇcna ako ∃T ∈ R, T > 0 takav da vrijedi f (x + T ) = f (x) , ∀x ∈ Df .
(3.5)
Za T kaˇzemo da je period funkcije f. Najmanji realni broj T0 , takav da vrijedi 3.5, zovemo osnovnim periodom funkcije f. • Za funkciju y = f (x) kaˇzemo da je parna ako vrijedi f (−x) = f (x) , ∀x ∈ Df . Za funkciju y = f (x) kaˇzemo da je neparna ako vrijedi f (−x) = −f (x) , ∀x ∈ Df . Graf parne funkcije je osno simetriˇcan s obzirom na os y, a graf neparne funkcije je centralno simetriˇcan s obzirom na ishodiˇste. Ve´cina funkcija nisu ni parne ni neparne.
Eksponencijalne funkcije Eksponencijalna funkcija je oblika f (x) = ax , a > 0, a 6= 1, f : R → h0, ∞i Svojstva: 1. a0 = 1, ∀a. 2. ax > 0, ∀x ∈ R. 3. Os x je horizontalna asimptota. Sluˇ caj 3.1 0 < a < 1. Funkcija pada na cijeloj domeni. f (x) → 0 kad x → +∞.
POGLAVLJE 3. DISKRETNA MATEMATIKA Primjer 3.20 f (x) =
75
1 x 2
y 4 3 2
1 -2
-1
0
1
2
x
2
x
Slika 3.5
Sluˇ caj 3.2 a > 1. Funkcija raste na cijeloj domeni. f (x) → 0 kad x → −∞. Primjer 3.21 f (x) = 2x
y 4 3 2 1
-2
-1
0
1
Slika 3.6
76
3.6. GRAF FUNKCIJE
Logaritamska funkcija f (x) = loga x, f : h0, ∞i → R Logaritamska funkcija s bazom a (a > 0, a 6= 1) inverzna je funkcija eksponencijalne funkcije s bazom a. Ponovimo osnovna svojstva logaritama. Za realne brojeve a, b i c, pri ˇcemu su a, b > 0, a 6= 1 vrijedi: Definicija 3.28
loga b = c ⇔ ac = b
(3.6)
Svojstva: 1. loga 1 = 0. 2. loga a = 1. 3. aloga x = x. 4. loga ax = x. 5. loga (xy) = loga x + loga y. 6. loga
x = y p
loga x − loga y.
7. loga x = p loga x, p ∈ R, p6=0. 8. loga x =
logb x . logb a
9. loga b =
1 . logb a
Sluˇ caj 3.3 0 < a < 1. Funkcija pada na cijeloj domeni. f (x) → 0 kad x → +∞. Primjer 3.22 f (x) = log 1 x 2
y 3 2 1 -1
0
1
2
-1 -2
Slika 3.7
3
4
x
POGLAVLJE 3. DISKRETNA MATEMATIKA
77
Sluˇ caj 3.4 a > 1. Funkcija raste na cijeloj domeni. f (x) → 0 kad x → −∞. Primjer 3.23 f (x) = log2 x
y 3 2 1 -1
1
0
2
3
4
x
-1 -2 -3
Slika 3.8
loge x ≡ ln x, e ≈ 2.71...
(3.7)
Cjelobrojne funkcije Cjelobrojne funkcije imaju vaˇznu ulogu u informatici. To su realne funkcije realne varijable, ˇcija je kodomena skup cijelih brojeva. Spomenimo funkciju ”najve´ce cijelo manje od” (floor - pod) i ”najmanje cijelo ve´ce od” (ceiling - strop). Dakle, za cjelobrojne funkcije f je kodomena skup cijelih brojeva. Definicija 3.29 Za svaki realni broj x definiramo bxc kao najve´ci cijeli broj manji ili jednak x. Za svaki realni broj x definiramo dxe kao najmanji cijeli broj ve´ci ili jednak od x. Vrijede sljede´ce nejednakosti medu tim funkcijama: bxc
≤
x ≤ dxe ,
x−1
≤
bxc ≤ x,
x
≤
dxe ≤ x + 1.
78
3.6. GRAF FUNKCIJE
3.6.2
Konaˇ cni i beskonaˇ cni skupovi
Skupovi se mogu klasificirati s obzirom na broj elemenata. Medutim, da bi ta klasifikacija imala smisla, tj. da bi nam omogu´cila particiju skupova s obzirom na broj elementa, moramo na skupovima definirati relaciju ekvivalencije. U definiciji jednakobrojnosti skupova kljuˇcnu ulogu ima specijalna vrsta relacije - bijektivna funkcija. Definicija 3.30 Skup A je ekvivalentan (ekvipotentan, bijektivan, jednakobrojan) skupu B (oznaka: A ∼ = B) ako postoji barem jedna bijekcija skupa A na skup B. Propozicija 3.11 Relacija ∼ = je relacija ekvivalencije. Kardinalni broj je klasa ekvivalencije kojoj skup pripada s obzirom na relaciju ∼ =, tj. zajedniˇcko svojstvo svih ekvipotentnih skupova. Definicija 3.31 Skup A je konaˇcan ako je prazan ili postoji bijekcija iz A u skup Nn = {1, 2, 3, ..., n} koji se sastoji od prvih n prirodnih brojeva. Ako A nije konaˇcan onda je beskonaˇcan. Ako je A konaˇcan, A 6= ∅ i bijektivan sa Nn = {1, 2, 3, ..., n} , tada on ima n elemenata i piˇsemo |A| = n ili k (A) = n. Vrijedi |∅| = 0. Primjer 3.24 Skupovi N i R su beskonaˇcni zbog sljede´cih injekcija: f (x)
=
g (x)
=
2x, x + 1, x ≥ 0, . x, x < 0
Bijekcija f preslikava skup prirodnih brojeva na skup parnih prirodnih brojeva koji je njegov podskup, dok bijekcija g preslikava skup realnih brojeva na njegov podskup R \ [0, 1i . Iako su skupovi N i R beskonaˇcni oni ipak nemaju isti kardinalni broj. Definicija 3.32 Skup A je prebrojivo beskonaˇcan ako i samo ako |A| = |N|, a prebrojiv ako i samo ako je konaˇcan ili prebrojivo beskonaˇcan. Beskonaˇcni skup koji nije prebrojiv je neprebrojiv . Oznaka kardinalnog broja skupa prirodnih brojeva je. |N| = ℵ0 (alef nula). Pokazuje se da je |N| = |Z| = |Q| = ℵ0 . Propozicija 3.12 Skup h0, 1i nije prebrojivo beskonaˇcan i piˇsemo |h0, 1i| = c (kontinuum). Propozicija se dokazuje metodom kontradikcije, a dokaz se moˇze prouˇciti u [5], str. 92. Vrijedi nadalje da je kontinuum ujedno i kardinalni broj skupa realnih brojeva tj. |R| = c. Name´ce se pitanje postoji li kardinalni broj k takav da je ℵ0 < k < c ? Ovu je hipotezu postavio veliki njemaˇcki matematiˇcar Georg Cantor (1845-1918) i nazvao je hipoteza kontinuuma. Paul Cohen je 1966. godine razrijeˇsio hipotezu kontinuuma i za to dobio Fieldsovu medalju, koja predstavlja najviˇse odlikovanje za matematiku. Odgovor glasi: uz standarni skup aksioma teorije skupova ne moˇze se odgovoriti na to pitanje. Zato matematiˇcari ovu hipotezu ponekad dodaju skupu osnovnih aksioma teorije skupova. Detaljna razrada vaˇzne teme o kardinalnim brojevima moˇze se na´ci u [4] i posebno u [12].
POGLAVLJE 3. DISKRETNA MATEMATIKA
3.7 3.7.1
79
Rekurzivne relacije Uvod
Neka je dan niz brojeva a1 , a2 , . . . , an , . . .. Najˇceˇs´ce se nizovi zadaju tako da se eksplicitno zada formula za izraˇcunavanje op´ceg ˇclana niza. Tako su zadani nizovi u primjeru 3.25. Primjer 3.25 Nizovi zadani pomo´cu op´ceg ˇclana: • an = 2n • an =
3n −1 2
No, ponekad je niz jednostavnije zapisati tako da se vrijednost n-tog ˇclana niza zada preko prethodnih ˇclanova niza. Takav naˇcin zadavanja ˇclanova niza naziva se rekurzivno zadavanje ˇclanova niza. Nizovi iz primjera 3.25 mogu se zadati rekurzivno i to je uˇcinjeno u primjeru 3.26. Primjer 3.26 Nizovi zadani rekurzivno: • ak = 2 · ak−1 , k ≥ 2, a1 = 2 • ak = 3 · ak−1 + 1, k ≥ 2, a1 = 1 Aritmetiˇ cki niz Jedan od najpoznatijih rekurzivno zadanih nizova je aritmetiˇcki niz o kojem govori definicija 3.33: Definicija 3.33 Neka su a, d ∈ R te neka je d 6= 0. Aritmetiˇcki niz definiramo rekurzivno kao a1 = a, an = an−1 + d.
(3.8)
Pri tome se d zove razlika ˇclanova aritmetiˇckog niza. Primjer 3.27 • Niz koji se sastoji od prirodnih brojeva redom od najmanjeg prema ve´cima zadaje se kao aritmetiˇcki niz na sljede´ci naˇcin: a1 = 1, an = an−1 + 1. • Niz koji se sastoji od negativnih cijelih brojeva poredanih od najve´ceg prema manjima se zadaje ovako: a1 = −1, an = an−1 − 1.
80
3.7. REKURZIVNE RELACIJE
Pokuˇsajmo sada zadati op´ci ˇclan aritmetiˇckog niza eksplicitno. Rekurzivna formula za aritmetiˇcki niz dana je s 3.8. Primijenimo li istu formulu na n − 1 ˇclan niza, dobit ´cemo an = (an−2 + d) + d = an2 + 2 · d Uzastopnim ponavljanjem primjene formule 3.8 dolazimo do formule (n−1)×
z }| { an = (a1 + d + . . . + d) = a1 + (n − 1) · d Time smo dobili eksplicitnu formulu za izraˇcunavanje op´ceg ˇclana aritmetiˇckog niza. Sljede´ca zanimljiva formula je ona koja daje sumu prvih n ˇclanova aritmetiˇckog niza. Ta je formula dana u sljede´coj propoziciji: Propozicija 3.13 Neka je sa Sn oznaˇcena suma prvih n ˇclanova aritmetiˇckog niza. Tada je Sn dana sljede´com formulom: Sn = n · a +
n · (n − 1) n · d = (a1 + an ) 2 2
(3.9)
Dokaz. Dokaz ide indukcijom po n. Napravite ga sami. Geometrijski niz Geometrijski niz je drugi vrlo vaˇzan niz koji se moˇze zadati rekurzivno. Definicija 3.34 Neka su a, q realni brojevi te neka je q 6= 0, q 6= 1. Tada se geometrijski niz definira kao a1 = a, an = q · an−1 .
(3.10)
Primjer 3.28 • Niz svih potencija broja 2 poredanih od najmanje prema ve´cim: a1 = 1, an = 2 · an−1 . • Rekurzivna definicija geometrijskog niza koji poˇcinje brojem 2, a svaki sljede´ci broj u nizu dva puta je manji od prethodnog: a1 = 2, an = 1 2 · an−1 . Sliˇcno kao kod aritmetiˇckog reda, izraˇcunat ´cemo eksplicitnu formulu za izraˇcunavanje op´ceg ˇclana geometrijskog niza. Primijenimo li formulu 3.10 na (n − 1)-vi ˇclan niza i uvrstimo ono ˇsto smo dobili opet u formulu 3.10, dobit ´cemo
POGLAVLJE 3. DISKRETNA MATEMATIKA
81
an = (an−2 · q) · q = an−2 · q · q = an−2 · q 2 Ponovimo li taj postupak n − 1 puta, dobijamo (n−1)×
z }| { an = a1 ·q . . . · q = a1 · q n−1 Za geometrijski se niz, kao i za aritmetiˇcki, moˇze izvesti formula za sumu prvih n ˇclanova. Propozicija 3.14 Neka je sa Sn oznaˇcena suma prvih n ˇclanova geometrijskog niza. Tada Sn iznosi Sn = a ·
1 − qn 1−q
(3.11)
Dokaz. Indukcijom po n. Izvedite ga sami. *** No, geometrijski je red konvergentan za q ∈< −1, 1 >. To znaˇci da, pustimo li da broj ˇclanova geometrijskog niza raste prema beskonaˇcnosti, njihova ´ce se suma sve viˇse pribliˇzavati nekom broju koji nije beskonaˇcan. Kojem ´ce se broju pribliˇzavati suma? Teorem 3.8 Neka je s a1 i an = q · an−1 zadan geometrijski niz i neka je q ∈ h−1, 1i. Tada je lim Sn =
n→∞
a1 . 1−q
(3.12)
Dokaz. Potrebno je izraˇcunati limes lim Sn = lim an ·
n→∞
n→∞
1 − qn 1−q
No, ako je q ∈ h−1, 1i, onda je lim q n = 0, pa tvrdnja slijedi iz linearnosti limesa. n→∞
Fibonaccijev niz U XIII. stolje´cu poznati matematiˇcar Leonardo Fibonacci iz Pise, bavio se problemom pove´canja broja zeˇceva razmnoˇzavanjem. Problem je zadan na sljede´ci naˇcin: svaki par zeˇceva starih barem dva mjeseca dobiju par zeˇci´ca svaki mjesec, pri tome je uvijek jedan zeˇci´c muˇskog a jedan ˇzenskog spola. Ako smo zapoˇceli uzgoj s jednim parom novorodenih zeˇci´ca, koliko ´cemo zeˇceva imati nakon n mjeseci? Fibonacci je dokuˇcio da se broj zeˇceva pove´cava prema sljede´cem nizu: 1, 1, 2, 3, 5, 8, 13, 21, . . .. Odnosno prema nizu koji se moˇze zadati rekurzivno kao f1 = 1, f2 = 1, fn = fn−1 + fn−2
(3.13)
82
3.7. REKURZIVNE RELACIJE
To je joˇs jedan vrlo poznati primjer rekurzivno zadanog niza brojeva. Naravno, i ovdje se postavlja problem pronalaˇzenja eksplicitne jednadˇzbe za op´ci ˇclan. Rjeˇsenje tog problema nije, medutim tako oˇcito kao ˇsto je to bio sluˇcaj u prethodna dva primjera, ve´c je za njegovo rjeˇsavanje potreban razvijeniji matematiˇcki aparat. Stoga ´cemo se problemu eksplicitne formule op´ceg ˇclana Fibonaccijevog niza vratiti kasnije, kada razvijemo tehnike rjeˇsavanja rekurzivnih jednadˇzbi.
3.7.2
Rjeˇ savanje rekurzija - karakteristiˇ cna jednadˇ zba
Definicija 3.35 Neka su c0 , . . . , ck−1 konstante i neka je f (n) funkcija. Tada se jednadˇzba an = ck−1 · an−1 + . . . c1 · an−k+1 + c0 · an−k + f (n)
(3.14)
naziva linearna nehomogena rekurzivna jednadˇzba k-tog reda s konstantim koeficijentima, dok se jednadˇzba an = ck−1 · an−1 + . . . c1 · an−k+1 + c0 · an−k
(3.15)
zove linearna homogena rekurzivna jednadˇzba k-tog reda s konstantim koeficijentima. Za jednadˇzbu 3.15 kaˇzemo da je pripadna homogena jednadˇzba jednadˇzbe 3.14. Definicija 3.36 Neka je dana linearna homogena rekurzivna jednadˇzba 3.15. Tada se jednadˇzba xk − ck · xk + . . . c1 · x + c0 = 0
(3.16)
naziva karakteristiˇcna jednadˇzba linearne homogene rekurzivne jednadˇzbe 3.15 Teorem 3.9 Neka je zadana linearna homogena rekurzivna jednadˇzba 3.15. Pretpostavimo da karakteristiˇcna jednadˇzba linearne homogene rekurzivne jednadˇzbe 3.15 ima sve jednostruke i realne korijene x1 , . . . , xk . Tada je op´ce rjeˇsenje linearne homogene rekurzivne jednadˇzbe 3.15 oblika an = C1 · xn1 + . . . + Ck · xnk . Dokaz ovog teorema ne´cemo provoditi. Zainteresirani ˇcitatelj dokaz moˇze na´ci u [12], str. 182. Primjer 3.29 Izraˇcunajmo sada eksplicitnu formulu za op´ci ˇclan Fibonaccijevog niza. Podsjetimo se da rekurzivna formula za op´ci ˇclan Fibonaccijevog niza glasi: fn = fn−1 + fn−2 ,
(3.17)
POGLAVLJE 3. DISKRETNA MATEMATIKA
83
uz poˇcetne uvjete f1 = f2 = 1.
(3.18)
Karakteristiˇcna jednadˇzba ove rekurzije je kvadratna jednadˇzba x2 − x − 1 = 0. Stoga su korijeni ove jednadˇzbe √ √ 1+4 1± 5 x1,2 = = , 2 2 pa op´ce rjeˇsenje rekurzije 3.17 glasi: " " √ #n √ #n 1+ 5 1− 5 fn = C1 · + C2 · . 2 2 1±
(3.19)
Vrijednosti konstanti C1 i C2 dobivamo iz poˇcetnih uvjeta. Uvrstimo li poˇcetne uvjete u jednadˇzbu 3.19 dobivamo sustav jednadˇzbi √ √ 1+ 5 1− 5 f1 = 1 = C1 · + C2 · , 2 2 " " √ #2 √ #2 1+ 5 1− 5 f2 = 1 = C1 · + C2 · . 2 2 (3.20) Rijeˇsimo li ovaj sustav dobit ´cemo C1 = √15 i C2 = − √15 . Dakle, op´ci ˇclan Fibonaccijevog niza iznosi " " √ #n √ #n 1 1+ 5 1 1− 5 fn = √ · −√ · . 2 2 5 5 Opisali smo kako se izraˇcunava eksplicitna formula homogene linearne rekurzivne jednadˇzbe s konstantnim koeficijentima u sluˇcaju da su svi korijeni karakteristiˇcne jednadˇzbe razliˇciti i realni. Moˇze se, medutim dogoditi da karakteristiˇcna jednadˇzba ima viˇsestruke korijene. Tada nam rjeˇsenje daje sljede´ci teorem. Teorem 3.10 Neka je dana linearna homogena rekurzivna jednadˇzba ktog reda s konstantnim koeficijentima 3.15, te neka njena karakteristiˇcna jednadˇzba ima t-struki korijen x. Tada x tvori t pribrojnika op´ceg rjeˇsenja rekurzije 3.15 C1 · xn , C2 · n · xn , . . . , Ct · nt−1 · xn . Ni ovaj teorem ne´cemo dokazivati. Njegov se dokaz takoder moˇze prona´ci u [12], str. 186. Pogledajmo, rade, kako ovaj teorem funkcionira na konkretnom primjeru.
84
3.7. REKURZIVNE RELACIJE
Primjer 3.30 Izraˇcunajmo eksplicitnu formulu za rekurziju an = 5 · an−1 − 8 · an−2 + 4 · an−3 , uz poˇcetne uvjete a1 = 0, a2 = 2, a3 = 2. Karakteristiˇcna jednadˇzba ove rekurzije je x3 − 5 · x2 + 8 · x − 4 = 0. Uoˇcimo da ovu jednadˇzbu moˇzemo faktorizirati na sljede´ci naˇcin: (x − 1) · (x − 2)2 = 0. Iz posljednje formule slijedi da jednadˇzba ima jednostruki korijen 1 i dvostruki korijen 2, pa je njeno op´ce rjeˇsenje oblika: an = C1 · 1n + C2 · 2n + C3 · n · 2n ,
(3.21)
gdje cu c1 , c2 i c3 proizvoljne konstante. Uvrstimo li poˇcetne uvjete u jednadˇzbu 3.21 dobit ´cemo sljede´ci sustav: a1 = 0 = C1 + 2 · C2 + 2 · C3 a2 = 2 = C1 + 4 · C2 + 8 · C3 a3 = 2 = C1 + 8 · C2 + 24 · C3 Rjeˇsavanjem ovog sustava dobijamo C1 = −6, C2 = 4, C3 = −1, odnosno eksplicitnu jednadˇzbu op´ceg ˇclana niza an = −6 + 4 · 2n − n · 2n . Tre´ci je sluˇcaj kada rekurzivna jednadˇzba ima konjugirano kompleksne korijene. Kako govorimo o rekurzivnim jednadˇzbama s konstantnim realnim koeficijentima, njihove su karakteristiˇcne jednadˇzbe se dobivaju izjednaˇcavanjem polinoma realne varijable s realnim koeficijentima sa nulom. Prema tome, ako karakteristiˇcna jednadˇzba ima kompleksan korijen, on mora ˇciniti par korijena s njemu konjugiranim kompleksnim brojem (vidi [7], str. 51.). Ovaj se sluˇcaj moˇze rjeˇsavati sliˇcno kao sluˇcaj s realnim korijenima. Medutim, imamo li korijene z1,2 = a ± b · i, tada ta dva korijena daju u rjeˇsenju: C1 · (a + b · i)n + C1 · (a − b · i)n . Primijenimo li de Moivreovu formulu dobit ´cemo C1 · |z1 |n (cos nϕ1 + i sin nϕ1 ) + C2 · |z2 |n (cos nϕ2 + i sin nϕ2 ),
(3.22)
POGLAVLJE 3. DISKRETNA MATEMATIKA
85
pri ˇcemu je cos ϕ = sin ϕ =
a √ , 2 a + b2 b √ . a2 + b2
S druge strane, kako su z1 i z2 konjugirano kompleskni brojevi, njihova je √ 2 apsolutna vrijednost jednaka i iznosi a + b2 . Sliˇcno, ϕ2 = −ϕ1 , pa je cos nϕ1 = cos nϕ1 i sin nϕ2 = − sin nϕ2 . Raspiˇsemo li formulu (3.22), uz gore navedene primjedbe pa uzmemo da je z = z1 , ϕ = ϕ1 te da je K1 = C1 + C2 i K2 = C1 − C2 , dobit ´cemo |z|n (K1 · cos nϕ + K2 · i sin nϕ). Primjer 3.31 Nadimo eksplicitnu formulu za op´ci ˇclan niza definiranog formulom an = 2 · an−1 − 2 · an−2 , uz poˇcetne uvjete a1 = 2, a2 = 2. Karakteristiˇcna jednadˇzba ove rekurzije je x2 − 2 · x + 2 = 0 Njeni korijeni su x1,2 = 1 ± i, pa imamo p √ |z| = 12 + 12 = 2 Nadalje,
cos ϕ = sin ϕ =
√ 2 1 √ = , 2 2 2 1 +1 √ 1 2 √ = , 2 2 2 1 +1
iz ˇcega slijedi da je ϕ=
π 4
te da je ³ √ π π´ an = ( 2)n · K1 · cos n + K2 · i · sin n . 4 4 Uvrstimo li poˇcetne uvjete dobivamo sustav jednadˇzbi √ ³ π´ π , 2 · K1 · cos + K2 · i · sin 4 4 ³√ ´2 ³ π π´ 2 = 2 · K1 · cos 2 + K2 · i · sin 2 , 4 4 2 =
86
3.7. REKURZIVNE RELACIJE
odnosno √ 2 = 2·
Ã
√ √ ! 2 2 K1 · + K2 · i · , 2 2
2 = 2 · (K2 · i) . Iz druge jednadˇzbe izlazi da je K2 = −i, a kada to uvrstimo u prvu jednadˇzbu, dobijamo à √ √ ! √ 2 2 2 = 2 · K1 · + , 2 2 iz ˇcega izlazi da je K1 = 1. Dakle, op´ce rjeˇsenje ove rekurzije je µ ¶ √ n Π Π an = ( 2) · cos n + sin n . 4 4 Time smo opisali sve mogu´ce sluˇcajeve koji se javljaju kod rjeˇsavanja linearnih homogenih rekurzivnih jednadˇzbi s konstantnim koeficijentima. Sljede´ci problem koji se postavlja jest problem rjeˇsavanja nehomogenih linearnih rekurzivnih jednadˇzbi. Teorem 3.11 Neka je zadana linearna nehomogena rekurzivna jednadˇzba k-tog reda s konstantnim koeficijentima 3.14. Neka je q op´ce rjeˇsenje pripadne linearne homogene rekurzije rekurzije 3.14 te neka je p bilo koje rjeˇsenje nehomogene linearne rekurzije 3.141 . Tada je an = q + p op´ce rjeˇsenje jednadˇzbe 3.14. Dokaz ovog teorema, kao i prethodna dva, moˇze se na´ci u [12], str. 188. Postavlja se problem kako prona´ci partikularno rjeˇsenje? Za taj problem ne postoji neka standardna metoda no za neke je funkcije poznat oblik partikularnog rjeˇsenja. Neke od tih funkcija dane su u sljede´coj tablici:
Funkcija f (n) d dn dnm an
Partikularno rjeˇ senje an A A1 n + A2 Pm (n) (polinom m-tog stupnja) A · an Tablica 3.2
1
Obiˇcno se takvo proizvoljno rjeˇsenje naziva partikularno rjeˇsenje
POGLAVLJE 3. DISKRETNA MATEMATIKA
87
Primjer 3.32 Potrebno je prona´ci rjeˇsenje rekurzivne jednadˇzbe an = 2an−1 + 1, uz uvjet da je a1 = 1. Pripadna homogena jednadˇzba ove rekurzije je an = 2an−1 , a njena karakteristiˇcna jednadˇzba je x − 2 = 0. Korijen ove jednadˇzbe je x1 = 2 pa je op´ce rjeˇsenje pripadne homogene rekurzivne jednadˇzbe an = C · 2n . Iz tablice proˇcitamo partikularno rjeˇsenje, te dobijamo da je op´ce rjeˇsenje nehomogene rekurzivne jednadˇzbe an = C · 2n + A. Kako bismo pronaˇsli partikularno rjeˇsenje, stavljamo da je an = A. Uvrstimo li originalnu jednadˇzbu za an imamo A = an = 2an − 1 + 1 = 2A + 1. Iz posljednjega slijedi da je A = −1. Sada imamo an = C1 · 2n − 1. Uvrstimo li poˇcetni uvjet, imat ´cemo 1 = C1 · 2 − 1. iz ˇcega slijedi da je C1 = 1, odnosno an = 2n − 1. Nehomogene rekurzije mogu se jednostavno izraˇcunavati i na drugi naˇcin, bez upotrebe tablice partikularnih rjeˇsenja: svodenjem nehomogene rekurzije na homogenu. Prikazat ´cemo kako se to radi na rekurzijama iz prethodna dva zadatka. Primjer 3.33 Rijeˇsimo ponovo rekurziju iz zadatka 3.32. Jednadˇzbu za n-ti ˇclan primijenimo na (n − 1)-vi ˇclan, te oduzmemo ˇsto smo dobili od jednadˇzbe za n-ti ˇclan:
88
3.7. REKURZIVNE RELACIJE an an−1 an − an−1
= = =
2an−1 + 1 2an−2 + 1 2an−1 − 2an−2 .
Dakle, poˇcetnu rekurziju sveli smo na homogenu rekurziju an = 3an−1 − 2an−2 . Karakteristiˇcna jednadˇzba ove rekurzije je x2 − 3x + 2 = 0. Korijeni ove jednadˇzbe su x1 = 1, x2 = 2, pa je op´ce rjeˇsenje rekurzije oblika: an = C1 · 1n + C2 · 2n .
(3.23)
Kako se prilikom homogenizacije pove´cao stupanj rekurzije, potrebno je prona´ci joˇs jedan poˇcetni uvjet: a2 = 2a1 + 1 = 3. Uvrstimo li sada oba poˇcetna uvjeta u dobiveno op´ce rjeˇsenje i dobijamo:
1 = C1 + C2 · 2, 3 = C1 + C2 · 4. Odavde se vidi da je C2 = −1, C2 = 1. Uvrstimo li C1 i C2 u formulu 3.23, dobivamo an = 2n − 1. Primjer 3.34 Rijeˇsimo joˇs jednadˇzbu an = 4 · an−1 + n · 2n uz poˇcetni uvjet a0 = 4. Formulu za n-ti ˇclan ´cemo primijeniti na (n − 1)-vi ˇclan, te ´cemo tako dobivenu formulu pomnoˇziti s dva i oduzeti od formule za n-ti ˇclan: an 2an−1 an − 2an−1
= = =
4an−1 + n · 2n+1 8an−2 + (n − 1) · 2n+1 4an−1 − 8an−2 + 2n+1 .
Dakle, dobili smo nelinearnu rekurziju: an = 6an−1 − 8an−2 + 2n+1 . Ponovimo istu stvar za dobivenu jednadˇzbu:
POGLAVLJE 3. DISKRETNA MATEMATIKA an 2an−1 an − 2an−1
= = =
89
6an−1 − 8an−2 + 2n+1 12an−2 − 16an−3 + 2n+1 6an−1 − 18an−2 + 16an−3 .
Dobili smo homogenu rekurziju: an = 8an−1 − 20an−2 + 16an−3 . Karakteristiˇcna jednadˇzba ove rekurzije je x3 − 8x2 + 20x − 16 = 0. Korijeni ove jednadˇzbe su x1,2 = 2, x3 = 4. Dakle, op´ce rjeˇsenje ove rekurzije ima oblik: an = C1 · 2n + C2 · n · 2n + C3 · 4n . Za rjeˇsavanje su nam potrebna tri poˇcetna uvjeta, pa trebamo izraˇcunati joˇs a1 i a2 . a1 = 4 · 4 + 2 · 2 = 20, a2 = 4 · 20 + 2 · 2 · 22 = 96. Uvrˇstavanjem poˇcetnih uvjeta u op´ce rjeˇsenje dobivamo sustav jednadˇzbi 4 = C1 + C3 20 = 2C1 + 2C2 + 4C3 96 = 4C1 + 8C2 + 16C3 Rjeˇsenja ovog sustava su C1 = −4, C2 = −2, C3 = 8, pa op´ce rjeˇsenje nehomogene rekurzije glasi: an = −4 · 2n + −2 · n · 2n + 8 · 4n . Prije no ˇsto krenemo na metodu rjeˇsavanja rekurzija na joˇs jedan naˇcin, pomo´cu funkcija izvodnica, opisat ´cemo joˇs jedan oblik rekurzija koje nisu linearne, ali se mogu izraˇcunati pomo´cu linearnih rekurzivnih jednadˇzbi. Ove jednadˇzbe igraju bitnu ulogu u ocjenjivanju sloˇzenosti algoritama, jer se vrlo ˇcesto javljaju pri ocjeni sloˇzenosti algoritama koji su izvedeni metodom podijeli pa ovladaj . Stoga se ove rekurzije ˇcesto i nazivaju podijeli pa ovladaj rekurzije. Ovdje se radi o rekurziji oblika: an = c · a nk + f (n).
(3.24)
Rekurzije se ovog tipa mogu svesti na linearne rekurzije i rijeˇsiti pomo´cu karakteristiˇcnog polinoma.
90
3.7. REKURZIVNE RELACIJE
Primjer 3.35 Rijeˇsimo rekurziju an = a n2 + n uz poˇcetni uvjet a1 = 0. Upotrijebimo li supstituciju sn = a2n , dobijamo sn = a2n = a 2n + n = a2n−1 + n = sn−1 + n, 2
ˇcime smo dobili linearnu nehomogenu rekurziju prvog reda. Oduzmimo jednadˇzbu za ˇclan sn−1 od jednadˇzbe za ˇclan sn sn sn−1 sn − sn−1
= = =
sn−1 + n sn−2 + n − 1 sn−1 − sn−2 + 1,
iz ˇcega slijedi da je sn = 2sn−1 − sn−2 + 1. Oduzmemo li opet formulu za (n − 1)-vi ˇclan niza od formule za n-ti ˇclan, imamo: sn sn−1 sn − sn−1
= = =
2sn−1 − sn−2 + 1 2sn−2 − sn−3 + 1 2sn−1 + 3sn−2 + sn−3 .
Tako smo dobili linearnu homogenu rekurziju sn = 3sn−1 − 3sn−2 + sn−3 . Njena karakteristiˇcna jednadˇzba glasi: x3 − 3x2 + 3x − 1 = 0. Karakteristiˇcna jednadˇzba ima trostruki korijen x1,2,3 = 1, pa je op´ce rjeˇsenje oblika sn = C1 · 1n + C2 · n · 1n + C3 · n2 · 1n , odnosno sn = C1 + C2 · n + C3 · n2 . potrebno je prona´ci tri poˇcetna uvjeta kako bismo mogli odrediti koeficijente u op´cem rjeˇsenju: s0 = a1 = 0, s1 = a2 = a1 + 2 = 2, s2 = a4 = a2 + 4 = 6.
POGLAVLJE 3. DISKRETNA MATEMATIKA
91
Uvrstimo li poˇcetne uvjete u op´ce rjeˇsenje, dobijamo
0 = C1 , 2 = C1 + C2 + C3 , 6 = C1 + 2C2 + 4C3 . Iz ovog sustava slijedi da je C1 = 0, C2 , C3 = 1, tj. da je op´ce rjeˇsenje izvedene rekurzivne jednadˇzbe sn = n + n2 . Vratimo se sada zadanoj rekurziji. Sada imamo: sn = a2n = n + n2 , odnosno, an = log2 n + log22 n.
3.7.3
Rjeˇ savanje rekurzivnih jednadˇ zbi - funkcije izvodnice
Postoji joˇs jedna metoda, pomo´cu koje se mogu rjeˇsavati neke rekurzivne jednadˇzbe. Radi se o metodi rjeˇsavanja rekurzivnih jednadˇzbi pomo´cu polinoma beskonaˇcnog stupnja tzv. funkcija izvodnica. Neka je zadan niz a0 , a1 , a2 , . . .. Tada se funkcija izvodnica ovog reda definira kao: f (x) = a0 + a1 x + a2 x2 + . . . Pogledajmo neke primjere poznatih funkcija izvodnica. Zadatak 3.20 Dokaˇzite da, za x 6= 1 vrijedi: 1 = 1 + x + x2 + . . . 1−x
(3.25)
Jasno je da je (1 − x)(1 + x + x2 + . . .) = 1 + x − x + x2 − x2 + . . . = 1 + 0x + 0x2 + . . . = 1.
(3.26)
Podijelimo li lijevu i desnu stranu gornje jednadˇzbe s 1 − x dobit ´cemo jednadˇzbu 3.25
92
3.7. REKURZIVNE RELACIJE
Zadatak 3.21 Dokaˇzite da za x 6= 1 vrijedi: 1 = 1 + 2x + 3x2 + . . . (1 − x)2
(3.27)
Deriviramo li lijevu i desnu stranu jednadˇzbe 3.25, dobit ´cemo 1 = 1 + 2x + 3x2 + . . . (1 − x)2
(3.28)
odnosno upravo jednadˇzbu 3.27. Primjer 3.36 Rijeˇsimo sada rekurziju an = 3an−1 , uz poˇcetni uvjet a0 = 1. Oduzmemo li sljede´ce dvije funkcije izvodnice: f (x) 3xf (x)
= =
a0 +
a1 x+ 3a0 x +
a2 x2 + 3a1 x2 +
...+ ...+
an x n + . . . 3an−1 xn + . . .
dobit ´cemo f (x) − 3xf (x) = a0 + (a1 − 3a0 )x + (a2 − 3a1 )x2 + . . . + (an − 3an−1 )xn + . . . No, kako je an = 3an − 1, vrijedi da je f (x) − 3xf (x) = a0 . Uvrstimo li poˇcetni uvjet, imamo f (x)(1 − 3x) = 1, odnosno f (x) =
1 . 1 − 3x
Koriste´ci jednadˇzbu 3.25 dobivamo f (x) = 1 + 3x + (3x)2 + . . . + (3x)n + . . . odnosno f (x) = 1 + 3x + 32 x2 + . . . + 3n xn + . . . , pa je rjeˇsenje an = 3n . Zadatak 3.22 Rijeˇsite rekurziju an = 2an−1 + an−2 uz poˇcetne uvjete a0 = 3, a1 = −2 (koristite jednakost 3.27).
POGLAVLJE 3. DISKRETNA MATEMATIKA
93
Primijetimo da se ovom metodom izravno mogu rjeˇsavati samo homogene linearne rekurzije, dok se nehomogene rekurzije moraju rjeˇsavati na iste naˇcine kako je to prikazano u prethodnom poglavlju. Nadalje, treba napomenuti da se ovom metodom mogu rjeˇsavati samo one rekurzije za koje, nakon oduzimanja, znamo razvoj u red.
3.8
Diskretna teorija vjerojatnosti
Teorija vjerojatnosti je novija matematiˇcka grana, ˇciji poˇceci seˇzu u 17. st. Oni se veˇzu uz kockarske igre te ˇzelju za izraˇcunavanjem vjerojatnosti dobitka na njima. Zasluˇznima za poˇcetke teorije vjerojatnosti smatraju se B. Pascal i P. Fermat. Njen brˇzi razvoj dogada se u 19. st., rezultatima koje su iznijeli Bernoulli, De Moivre i Laplace, te rezultatima Kolmogorova i Markova u 20. st. Diskretna teorija vjerojatnosti je onaj dio teorije vjerojatnosti koji se odnosi na izraˇcunavanje vjeroSlika 3.9: Andrey Kol- jatnosti dogadaja na diskretnim, odnosno konaˇ cmogorov nim i prebrojivim skupovima dogadaja. Ona se koristi u raˇcunarstvu u mnogim podruˇcjima. Ovdje posebno istiˇcemo koriˇstenje diskretne teorije vjerojatnosti kod takozvanih randomiziranih algoritama, te kod izraˇcunavanja prosjeˇcnog trajanja algoritma.
3.8.1
Osnove kombinatorike
Iako je kombinatorika zasebna matematiˇcka disciplina, u ovoj ´cemo je knjizi obraditi ukratko u sklopu diskretne teorije vjerojatnosti. Ona predstavlja osnovu za izraˇcunavanje vjerojatnosti u konaˇcnim vjerojatnosnim prostorima. Ovdje ´cemo opisati osnovne formule iz podruˇcja kombinatorike, bez pretenzije da se te formule dokaˇzu ili da se potpuno matematiˇcki fundiraju. Za ˇcitatelje koje zanima konzistentna razrada kombinatorike kao matematiˇcke discipline, preporuˇcamo naslove [6], [12], te [11]. Permutacije Prvi kombinatorni problem koji ´cemo ovdje prikazati jest problem permutacija. Imamo skup od n razliˇcitih elemenata. Postavlja se pitanje, na koliko razliˇcitih naˇcina se ti elementi mogu poredati u uredenu n-torku? Drugim rijeˇcima, koliko razliˇcitih nizova od n elemenata, ili permutacija, moˇzemo naˇciniti od tih n brojeva? Broj permutacija dan je sljede´com formulom: P (n) = n! = n · (n − 1) · . . . · 1.
(3.29)
94
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
Primjer 3.37 Na koliko naˇcina moˇzemo poredati 5 raznobojnih kuglica u niz? Odgovor na ovo pitanje je: P (5) = 5! = 120
(3.30)
Imamo li k razliˇcitih vrsta elemenata, i ako od i-te vrste imamo ni komada. Koliko ima razliˇcitih permutacija takvih elemenata? Odgovor je n! . n1 ! · . . . · nk ! Ovakve se permutacije nazivaju permutacije s ponavljanjem. (n1 ,...,nk )
Pn
=
Primjer 3.38 Neka imamo 5 ˇzutih, 4 crvene i 3 plave kuglice. Ako istobojne kuglice medusobno ne razlikujemo, na koliko se naˇcina moˇze napraviti niz od tih kuglica? P 1 2(5,4,3) =
12! = 27720. 5! · 4! · 3!
Varijacije Drugi vaˇzan kombinatorni pojam koji ´cemo ovdje definirati jest pojam varijacije. Postoje dvije vrste varijacija - varijacije bez i sa ponavljanjem. Pitanje koje se postavlja je, na neki naˇcin, proˇsirenje pitanja koje smo postavili kada smo govorili o permutacijama, samo ˇsto se sada niz ne tvori od svih n elemenata, ve´c od k elemenata. Dakle, koliko razliˇcitih nizova duljine k moˇzemo napraviti od n razliˇcitih elemenata, odnosno koliko postoji varijacija k-tog razreda od n elemenata bez ponavljanja? Odgovor je dan sljede´com formulom: Vn(k) =
n! . (n − k)!
(3.31)
Primjer 3.39 Od 7 vojnika potrebno je izabrati 5 i poredati ih u vrstu. Na koliko je to naˇcina mogu´ce uˇciniti? 7! = 2520 2! Pretpostavimo da se ne radi o skupu, ve´c o multiskupu, tj. da se odredeni element moˇze izabrati viˇse puta. Pitanje, na koliko se naˇcina moˇze izabrati k elemenata iz multiskupa, koji sadrˇzi n razliˇcitih elemenata, je pitanje varijacija n elemenata k-tog razreda s ponavljanjem. Broj razliˇcitih varijacija k-tog razreda od n elemenata s ponavljanjem je (5)
V7
=
(k)
V n = nk .
(3.32)
POGLAVLJE 3. DISKRETNA MATEMATIKA
95
Primjer 3.40 Koliko ima troznamenkastih brojeva? Izmedu 10 razliˇcitih znamenaka koliko ima nizova od 3 znamenke? (3)
V 10 = 103 = 1000. No, da bismo dobili samo troznamenkaste brojeve, od tog broja moramo oduzeti sve one kojima je prva znamenka 0. Takvih ima (2)
V 10 = 102 = 100. Naime, njih ima onoliko na koliko naˇcina moˇzemo izabrati preostale dvije znamenke. Dakle ukupan broj troznamenkastih brojeva je (3)
(2)
V 10 − V 10 = 1000 − 100 = 900. Kombinacije Posljednji kombinatorni pojam, koji ´cemo definirati, je pojam kombinacija. Pitanje koje se postavlja je pitanje izbora nekog podskupa danog skupa, a ne niza elemenata. Dakle, ˇzelimo doznati na koliko naˇcina se moˇze iz skupa od n elemenata izabrati podskup od k elemenata. Onda se govori o kombinacijama k-tog razreda od n elemenata bez ponavljanja. Njihov broj je µ ¶ n! n Cn(k) = = (3.33) k k! · (n − k)! Primjer 3.41 Djeci je u ˇskoli za lektiru predloˇzeno 17 knjiga, ali oni moraju proˇcitati samo 10. Koliko razliˇcitih izbora djeca mogu uˇciniti? Djeca mogu uˇciniti µ
(10)
C17
¶ 17 10 17 · 16 · . . . · 2 · 1 = 10 · 9 · . . . · 1 · 7 · 6 · . . . · 1 17 · 16 · 15 · 14 · 13 · 12 · 11 = 7·6·5·4·3·2·1 = 19448 =
naˇcina, ˇsto je iznenaduju´ce velik broj. Posljednje ˇsto ´cemo opisati u ovom poglavlju, jesu kombinacije s ponavljanjem. Kombinacije s ponavljanjem jesu svi multiskupovi elemenata skupa A. Ako imamo skup A koji sadrˇzi n elemenata, i od njih moramo naˇciniti multiskup od k elemenata, onda govorimo o kombinacijama s ponavljanjem
96
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
k-tog razreda od n elemenata. Ukupni broj razliˇcitih kombinacija s ponavljanjem k-tog razreda od n elemenata je µ ¶ n+k−1 (k) . Cn = k Primjer 3.42 Tvrtka mora kupiti 10 automobila. Ponuda se sastoji od 5 vrsti automobila. Na koliko razliˇcitih naˇcina tvrtka moˇze napraviti ovu kupnju? µ
(10) C5
= = = =
5 + 10 − 1 10 µ ¶ 14 10 14! 10! · 4! 1001.
¶
Sljede´ce ˇsto ˇzelimo uˇciniti, i ˇsto ´ce biti vrlo korisno, jest uvesti vezu izmedu kombinacija i binomnih koeficijenata, te uvesti neke propozicije koje ´ce nam opisati odnose izmedu razliˇcitih binomnih koeficijenata. Teorem 3.12 (Binomni pouˇ cak) ¶ n µ X n (a + b) = ai bn−i . i n
i=0
Dokaz ovog teorema moˇze se na´ci u [12], str. 113. Sada ´cemo samo navesti neke identitete s binomnim koeficijentima, bez njihova µ dokazivanja: ¶ µ ¶ n n = , (simetrija) i n−i µ ¶ µ ¶ n n n−1 = , (apsorpcija) i i−1 i µ ¶ µ ¶ µ ¶ n n−1 n−1 = + , (Pascalova formula) i i i−1 µ ¶µ ¶ µ ¶µ ¶ n i n n−k = , (Trinomna revizija) i k k i−k µ ¶ n P n = 2n , i=0 µ i ¶ µ ¶ r P n+i n+r+1 = , (paralelna sumacija) i r+1 i=0 µ ¶ µ ¶ k P r+i r+k+1 = , (gornja sumacija) r r+1 i=0
POGLAVLJE 3. DISKRETNA MATEMATIKA µ
97
¶ µ ¶ n m+n = , (Vandermondeova konvolucija) r+i m+r i=1 µ ¶2 µ ¶ n P n 2n = , n i=0 µ i ¶ µ ¶ µ ¶ m P m−i n+i m+n+1 = . (Vandermondeova konv.) r s r+s+1 i=1 Dokazi ovih identiteta mogu se prona´ci u [12]. m P
3.8.2
m i
¶µ
Osnovne definicije i teoremi diskretne teorije vjerojatnosti
Osnovni pojam od kojeg se kre´ce u teoriji vjerojatnosti jest sluˇcajni pokus. Sluˇcajni pokus je pokus ˇciji rezultati nisu jednoznaˇcno odredeni uvjetima u kojima se izvodi. Primjer toga je pokus bacanja igra´ce kocke. Kod tog pokusa postoji ˇsest mogu´cih ishoda iz sljede´ceg skupa: Ω = {1, 2, 3, 4, 5, 6}. Definicija 3.37 Skup Ω svih mogu´cih ishoda naziva se skup uzoraka ili prostor elementarnih dogadaja. Svaki element skupa Ω naziva se elementarni dogadaj. Svaki podskup skupa Ω naziva se dogadaj. Dogadaj je svaki rezultat sluˇcajnog pokusa. Npr. imamo li sluˇcajni pokus bacanja 5 igra´cih kocaka, onda se ”palo je pet ˇsestica” smatra dogadajem. Jasno je da su ∅ ⊆ Ω i Ω ⊆ Ω takoder dogadaji. Prvi se naziva nemogu´c dogadaj , a drugi siguran dogadaj . Definicija 3.38 Dogadaji A i B se medusobno iskljuˇcuju ako vrijedi da je A ∩ B = ∅. Definicija 3.39 Neka je Ω diskretan skup. Neka je definirano preslikavanje P : Ω → [0, 1] sa svojstvima da je P P (A) = 1, • A∈Ω
• Neka je A ∩ B = ∅. Tada je P (A ∪ B) = P (A) + P (B). Tada se par (Ω, P ) naziva diskretni vjerojatnosni prostor . Iz definicije diskretnog vjerojatnosnog prostora slijedi teorem koji daje njegova osnovna svojstva: Teorem 3.13 Neka je (Ω, P ) diskretni vjerojatnosni prostor. Tada vrijede sljede´ce tvrdnje: 1. P (∅) = 0
98
3.8. DISKRETNA TEORIJA VJEROJATNOSTI 2. Ako su A1 , . . . , An ⊆ Ω po parovima medusobno disjunktni dogadaji, n n S P onda je P ( Ai ) = P (Ai ). i=1
i=1
3. Neka su A, B ⊆ Ω. Tada je P (A ∪ B) = P (A) + P (B) − P (A ∩ B). 4. Neka je A ∈ Ω. Tada je P (C(A)) = 1 − P (A). 5. Neka su A, B ∈ Ω. Tada je P (A\B) = P (A) − P (A ∩ B). 6. Neka su A, B ∈ Ω, A ⊆ B. Tada je P (A) ≤ P (B). Dokaz. 1. Iz prvog svojstva vjerojatnosti iz definicije 3.39 slijedi da je P (Ω) = 1. Naravno, skupovi Ω i ∅ su disjunktni, pa po drugom svojstvu vjerojatnosti iz definicije 3.39 vrijedi da je P (Ω) + P (∅) = P (Ω ∪ ∅) = P (Ω) = 1. Odatle slijedi da je P (∅) = 1 − P (Ω) = 1 − 1 = 0. 2. Ovaj se dokaz moˇze provesti indukcijom po n. Za n = 2 dokaz slijedi izravno iz definicije 3.39. Pretpostavimo da tvrdnja vrijedi za n ≤ k. Neka je n = k + 1. Kako k S je Ak+1 ∩ Ai = ∅ za svaki i = 1, . . . , k, sigurno je ( Ai ) ∩ Ak+1 = i=1
∅. Neka je A =
k S i=1
P (A) =
k P i=1
Ai . Prema pretpostavci indukcije vrijedi da je
P (Ai ). Isto tako, prema pretpostavci indukcije vrijedi da
je P (A ∪ Ak+1 ) = P (A) + P (Ak+1 ). Dakle, k+1 [
P(
Ai ) = P (
i=1
k [
Ai ∪ Ak+1 )
i=1
= P (A ∪ Ak+1 ) = P (A) + P (Ak+1 ) = =
k X i=1 k+1 X i=1
ˇsto je itrebalo dokazati.
P (Ai ) + P (Ak+1 ) P (Ai )
POGLAVLJE 3. DISKRETNA MATEMATIKA
99
3. Neka je C = B\A. Tada je A ∪ B = A ∪ C i A ∩ C = ∅. Prema tome vrijedi P (A ∪ B) = P (A ∪ C) = P (A) + P (C) = P (A) + P (B\A).
(3.34)
S druge strane, (A∩B)∪(B\A) = B, a isto tako je (A∩B)∪(B\A) = ∅, pa je P (B) = P ((A ∩ B) ∪ (B\A)) = P (A ∩ B) + P (B\A), iz toga slijedi da je P (B\A) = P (B) − P (A ∩ B).
(3.35)
Uvrstimo li (3.35) u (3.34) dobit ´cemo P (A ∪ B) = P (A) + P (B) − P (A ∩ B).
(3.36)
4. Znamo da je A ∪ Ac = Ω, a A ∩ Ac = ∅. Iz prve jednakosti slijedi da je P (A ∪ Ac ) = P (Ω) = 1,
(3.37)
a iz druge pak slijedi da je P (A ∪ Ac ) = P (A) + P (Ac ). Iz posljednjeg imamo P (Ac ) = P (A ∪ Ac ) − P (A).
(3.38)
U (3.38) uvrstimo (3.37) i dobit ´cemo P (Ac ) = 1 − P (A). 5. Oˇcito je da vrijedi (A\B) ∪ (A ∩ B) = A, a (A\B) ∪ (A ∩ B) = ∅. Dakle, P (A) = P ((A\B) ∪ (A ∩ B)) = P (A\B) + P (A ∩ B) Iz ove formule slijedi da je P (A\B) = P (A) − P (A ∩ B).
100
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
6. Imamo (B\A) ∪ A = B, a (B\A) ∩ A = ∅ pa slijedi: P (B) = P ((B\A) ∪ A) = P (B\A) + P (A). No, kako je prema definiciji 3.39 P (B\A) ≥ 0, slijedi da je P (B) ≥ P (A).
Propozicija 3.15 (Sylvestrova formula) Neka su Ai , i = 1, . . . , n dogadaji na vjerojatnosnom prostoru < Ω, P >. Tada je à P
n [
! Ai
=
i=1
n X i=1
+
X
P (Ai ) −
X
P (Ai ∩ Aj ∩ Ak ) − . . .
1≤i<j
à Ã
+ (−1)
n+1
P (Ai ∩ Aj )
1≤i<j≤n
P
n \
!! Ai
.
i=1
Dokaz. Indukcijom po n. Baza indukcije: Za n = 1 tvrdnja je trivijalna. Korak indukcije: Pretpostavimo da tvrdnja vrijedi da n ≤ k. Neka je sada n = k + 1. n−1 S Neka su skupovi B i Ci , i = 1, . . . , n definirani sa B = Ai , Ci = i=1
Ai ∩ An . Tada je, prema pretpostavci indukcije, Ã P
n [
! Ai
= P (B ∪ An ) = P (B) + P (An ) − P (B ∩ An ).
(3.39)
i=1
Isto tako, prema pretpostavci indukcije vrijedi
P (B) =
n−1 X i=1
X
P (Ai ) −
1≤i<j≤n−1
à Ãn−1 !! \ P (Ai ∩ Aj ) + . . . + (−1) P Ai . n
i=1
(3.40) Nadalje, B ∩ An =
n−1 S i=1
Ci , ˇsto, prema pretpostavci indukcije daje
POGLAVLJE 3. DISKRETNA MATEMATIKA
P (B ∩ An ) =
n−1 X
X
Ci −
i=1
+(−1)
n−1 X
P
Ãn−1 \
!
Ci
i=1
i=1
=
P (Ci ∩ Cj ) + . . .
1
n−1 X
(Ai ∩ An )
i=1
−
101
X
(3.41)
P (Ai ∩ Aj ∩ An ) + . . .
1≤i<j≤n−1
Ã
+(−1)n P
n \
! Ai
i=1
Iz (3.39), (3.40) i (3.41) slijedi tvrdnja propozicije. Primjer 3.43 Kolika je vjerojatnost da od baˇcenih pet jednakih igra´cih kocaka padnu barem tri ˇsestice? Koliko razliˇcitih rezultata tih pet kocaka mogu dati? Ovdje se ˇzeli dati odgovor na pitanje: na koliko naˇcina se moˇze izabrati pet brojeva od 1-6, ne nuˇzno razliˇcitih? Dakle, radi se o kombinacijama s ponavljanjem: (5) C6
µ
¶ 10 = 5 10 · 9 · 8 · 7 · 6 = 5·4·3·2·1 = 252.
Suprotan dogadaj od dogadaja da su pale barem tri ˇsestice jest da je palo manje od 3 ˇsestice, tj. da su pale najviˇse dvije ˇsestice. Koliko je mogu´cih rezultata s najviˇse dvije ˇsestice? Taj se dogadaj moˇze rastaviti na tri disjunktna dogadaja: • da nije pala nijedna ˇsestica, • da je pala toˇcno jedna ˇsestica, • da su pale dvije ˇsestice. Broj rezultata bez ˇsestica je jednak broju mogu´cih izbora pet brojeva izmedu brojeva 1-5, a to je µ ¶ 9 (5) = 126 C5 = 5
102
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
Koliko ima rezultata bacanja 5 igra´cih kockica s toˇcno jednom ˇsesticom? To su svi oni dogadaji na kojima je na jednoj kockici pala ˇsestica, dok rezultate ostalih kockica moˇzemo proizvoljno birati izmedu brojeva 1-5. Dakle, imamo: (5) C4
µ =
8 4
¶ = 70.
Na kraju, imamo broj rezultata bacanja s toˇcno dvije ˇsestice. Sliˇcno gore opisanome, njih ima (5) C3
µ =
7 3
¶ = 35.
Vjerojatnost da se ne pojavi nijedna ˇsestica je P (B0 ) =
126 . 252
Vjerojatnost da se pojavi toˇcno jedna ˇsestica jest P (B1 ) =
70 . 252
I na kraju, vjerojatnost da se pojave toˇcno dvije ˇsestice jest P (B2 ) =
35 . 252
Konaˇcno, oznaˇcino li s B dogadaj da su pale najviˇse dvije ˇsestice, imamo da je P (B) = P (B0 ) + P (B1 ) + P (B2 ) =
231 . 252
Taj je dogadaj komplementaran naˇsem dogadaju A koji kaˇze da su pale najviˇse 3 ˇsestice. Dakle, vrijedi P (A) = 1 − P (B) =
1 . 12
Gornji raˇcun sadrˇzi neke od vaˇznih zakona koji vrijede za vjerojatnosti. Isti se rezultat mogao dobiti i neposrednije. Dogadaj A se sastoji od tri disjunktna poddogadaja: • Palo je toˇcno 3 ˇsestice, • Palo je toˇcno 4 ˇsestice i • Palo je toˇcno 5 ˇsestica.
POGLAVLJE 3. DISKRETNA MATEMATIKA
103
Broj rezultata s 3 ˇsestice jest µ
(2)
C5 =
¶
6 2
= 15,
broj rezultata s 4 ˇsestice je (1) C5
µ =
5 1
¶ = 5,
a broj rezultata s 5 ˇsestica je, naravno, 1. Odnosno, µ ¶ 4 (0) C5 = = 1. 0 Oznaˇcimo li s A3 dogadaj kada su pale toˇcno 3 ˇsestice, s A4 dogadaj da su pale toˇcno 4 ˇsestice, a s A5 dogadaj kada je svih pet kocaka palo na broj ˇsest, imamo sljede´ce vjerojatnosti: P (A3 ) = P (A4 ) = P (A5 ) =
15 , 252 5 252 1 . 252
Ukupno, P (A) = P (A3 ) + P (A4 ) + P (A5 ) =
1 21 = . 252 12
Primjer 3.44 Neka se bacaju ˇcetiri jednake igra´ce kockice. Koja je vjerojatnost da su baˇcena barem dva ista broja? Izraˇcunajmo, sliˇcno prethodnom zadatku, koja je vjerojatnost da su pale barem dvije ˇsestice. Oznaˇcimo li s A(6) dogadaj koji kaˇze da je palo barem dvije ˇsestice, prema razmatranjima iz prethodnog primjera, imat ´cemo: (6)
(6)
(6)
P (A(6) ) = P (A2 ) + P (A3 ) + P (A4 ) (2)
=
=
=
C5
(4)
(1)
+
C5
(4)
(0)
+
C5
(4)
C C C µ 6 ¶ 6µ ¶ 6 µ ¶ 6 5 2 1 0 µ ¶+µ ¶+µ ¶ 9 9 9 4 4 4 5 1 21 1 15 + + = = . 126 126 126 126 6
104
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
Dakle, izraˇcunajmo kolika je vjerojatnost da se jave dva ista broja, bez obzira na to koji to brojevi bili? Ako s A(i) oznaˇcimo dogadaj da je na barem dvije kocke pao broj i, sliˇcno kao za A(6) , vrijedi da je 1 P (A(1) ) = P (A(2) ) = P (A(3) ) = P (A(4) ) = P (A(5) ) = P (A(6) ) = . 6 Medutim, moramo imati na umu da se dogadaji A(i) i A(j) medusobno ne iskljuˇcuju. Naime, moˇze se dogoditi da pri bacanju ˇcetiri igra´ce kockice istovremeno padnu i dvije ˇsestice i, recimo, dvije jedinice. Neka imamo dogadaje A(i) i A(j) . Koja je vjerojatnost da su se ta dva dogadaja dogodila istovremeno? Ta je vjerojatnost P (A(i,j) ) =
1 4 C6
=µ
1 1 ¶= 126 9 4
Dakle, imamo da je
P (A) =
n X i=1
= 6·
3.8.3
X
P (A(i) ) −
1 − 6
µ
6 2
¶
P (A(i,j) )
i=1,...,5,j=i+1,...,6
·
1 15 111 37 =1− = = . 126 126 126 42
Uvjetna vjerojatnost
Sljede´ci vrlo vaˇzan i koristan pojam koji treba obraditi jest uvjetna vjerojatnost. U teoriji vjerojatnosti ˇcesto ˇzelimo znati kolika je vjerojatnost nekog dogadaja B, ako se zna da se dogodio dogadaj A. Uvjetna se vjerojatnost dogadaja B dogadajem A oznaˇcava P (B|A). Definicija 3.40 Neka je (Ω, P ) diskretni vjerojatnosni prostor, i neka su A, B ⊆ Ω dogadaji, pri ˇcemu je P (A) > 0. Vjerojatnost dogadaja B uz uvjet dogadaja A se definira kao: P (B|A) =
P (A ∩ B) . P (A)
Teorem 3.14 Neka je (Ω, P ) diskretni vjerojatnosni prostor, A1 . . . An , A, B ⊆ Ω dogadaji i neka je P (A) > 0. Tada je 1. P (∅|A) = 0, 2. P (B C |A) = 1 − P (B|A),
POGLAVLJE 3. DISKRETNA MATEMATIKA
105
3. P (A1 ∪ A2 |A) = P (A1 |A) + P (A2 |A) − P (A1 ∩ A2 |A). Dokaz. Dokaz ovog teorema provedite sami. Primjer 3.45 Dva stroja izraduju lonce. Prvi stroj izraduje 90% ispravnih lonaca, a drugi 85%. Od 1000 lonaca, od kojih je 500 izradeno na jednom, a 500 na drugom stroju, izabran je jedan i on je ispravan. Koja je vjerojatnost da je on proizveden na prvom stroju? Kao prvo, treba vidjeti koja je vjerojatnost da je izabran ispravan proizvod. 9 Prvi stroj izraduje 10 ispravnih proizvoda, a drugi 17 20 . Ukupan broj 9 ispravnih proizvoda je 500 · 10 + 500 · 17 = 875. Dakle, ako kaˇzemo da 20 dogadaj A kaˇze da je izvuˇcen ispravan lonac onda je P (A) =
875 7 = . 1000 8
Neka je s B oznaˇcen dogadaj izvlaˇcenja lonca proizvedenog na prvom stroju. Sada A ∩ B znaˇci da je izvuˇcen ispravan proizvod proizveden na prvom stroju pa je P (A ∩ B) =
450 9 = . 1000 20
Dakle, traˇzena vjerojatnost je P (B|A) =
P (A ∩ B) = P (A)
9 20 7 8
=
18 . 35
Definicija 3.41 Neka je (Ω, P ) diskretni vjerojatnosni prostor. Kaˇzemo da je sustav dogadaja Ai ⊆ Ω, i = 1, 2, . . . potpun, ako vrijedi da je Ai 6= ∅ za svako i = 1, . . . , n, te da je Ai ∩ Aj = ∅ za svaka dva i, j = 1, . . . , n, i 6= j te n S da je Ai = Ω. i=1
Moˇze se re´ci da je potpun sustav dogadaja najviˇse prebrojiva particija skupa elementarnih dogadaja Ω. Gornj nam definicija omogu´cuje izvodenje potpune vjerojatnosti: Teorem 3.15 (Formula potpune vjerojatnosti) Neka je (Ai , i = 1, 2 . . .) potpun sustav dogadaja te neka je A proizvoljan dogadaj. Tada vrijedi P (A) =
X i=1,2,...
P (Ai ) · P (A|Ai ).
106
3.8. DISKRETNA TEORIJA VJEROJATNOSTI Dokaz. Oˇcito je da vrijedi
[
P (A) = P (A ∩ Ω) = P A ∩
Ai = P
i=1,2,...
[
(A ∩ Ai )
i=1,2,...
Nadalje, za svaki Ai , Aj , i 6= j vrijedi da je Ai ∩ Aj = ∅, pa je onda i (A ∩ Ai ) ∩ (A ∩ Aj ) = ∅. Stoga je P (A) =
X
P (A ∩ Ai ).
i=1,2,...
No, kako je P (A|Ai ) =
P (A ∩ Ai ) , P (Ai )
izlazi da je P (A ∩ Ai ) = P (Ai ) · P (A|Ai ), pa je X
P (A) =
P (Ai ) · P (A|Ai ),
i=1,2,...
ˇsto je i trebalo dokazati. Teorem 3.16 (Bayesova formula) Neka je (Ai , i = 1, 2, . . .) potpun sustav dogadaja, i neka je A proizvoljan dogadaj za koji vrijedi P (A) > 0. Tada je P (Ai |A) =
P (A ) · P (A|Ai ) P i . P (Ai ) · P (A|Ai )
j=1,2,...
Dokaz. Iz definicije uvjetne vjerojatnosti znamo da vrijedi P (Ai |A) =
P (Ai ∩ A) . P (A)
Jasno je da je P (Ai ∩ A) = P (A ∩ Ai ) = P (Ai ) · P (A|Ai ). Prema teoremu 3.15, vrijedi da je X P (A) = P (Aj ) · P (A|Aj ), j=1,2,...
POGLAVLJE 3. DISKRETNA MATEMATIKA
107
odakle je P (Ai |A) =
P (Ai ) · P (A|Ai ) P . P (Aj ) · P (A|Aj )
j=1,2,...
3.8.4
Sluˇ cajne varijable
Pojam sluˇcajne varijable veˇze se uz rezultate sluˇcajnog pokusa. Stoga se sluˇcajne varijable najˇceˇs´ce koriste kada se radi s ponavljanjem pokusa. Definicija 3.42 Sluˇcajna varijabla je svaka funkcija X : Ω → R. Primjer 3.46 Promatramo li pokus bacanja simetriˇcnog novˇci´ca, moˇzemo definirati sluˇcajnu varijablu na sljede´ci naˇcin: ½ 0 ako je pala glava X= . 1 ako je palo pismo Sada moˇzemo definirati vjerojatnost da, primjerice sluˇcajna varijabla poprimi vrijednost 1. To zapravo znaˇci da je palo pismo prilikom bacanja simetriˇcnog novˇci´ca, tj. P (X = 1) = 0.5, P (X = 0) = 0.5. Sluˇcajna varijabla definirana u prethodnom primjeru je specijalni sluˇcaj tzv. Bernoullijeve ili binomne sluˇcajne varijable. Binomna sluˇcajna varijabla je sluˇcajna varijabla koja se definira nad Bernoullijevim pokusom, tj. pokusom koji ima dva mogu´ca ishoda, od kojih jedan ima vjerojatnost p ∈ [0, 1], a drugi q = 1 − p. Binomna se varijabla definira na sljede´ci naˇcin ½ 0 ako se dogodio prvi ishod X= 1 ako se dogodio drugi ishod Jasno je da za binomnu sluˇcajnu varijablu vrijedi P (X = 1) = p, P (X = 0) = q = 1 − p. Sada se vidi da je sluˇcajna varijabla, definirana u prethodnom primjeru, binomna sluˇcajna varijabla s vjerojatnoˇs´cu p = 0, 5. Sljede´ca istaknuta sluˇcajna varijabla je diskretna uniformna sluˇcajna varijabla. To je varijabla koja opisuje pokus koji ima n mogu´cih ishoda, od kojih su svi jednako vjerojatni. Varijabla se definira na sljede´ci naˇcin:
108
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
X = i ako se pojavio i-ti ishod., i ∈ {1, . . . , n} Jasno je da je
P (X = i) =
1 za svaki i = 1, . . . , n. n
Primjer 3.47 Neka je dana serija od 1000 proizvoda, od kojih je 20 oˇste´cenih. Serija se kontrolira na sljede´ci naˇcin: kontrolor nasumce bira 10 proizvoda i provjerava ih. Serija se smatra korektnom ako u kontrolnom uzorku nema viˇse od 20% neispravnih proizvoda. Kolika je vjerojatnost da serija bude proglaˇsena korektnom? Ovo se moˇze izraˇcunati direktno, ali mogu se koristiti i sluˇcajne varijable. Definirajmo sluˇcajnu varijablu X na sljede´ci naˇcin:
X = k, k ∈ {0, . . . , 10}, ako se u sluˇcajnom uzorku nalazi k neispravnih proizvoda Pitanje iz zadatka se sada moˇze zapisati na sljede´ci naˇcin:
P (X ≤ 2) =? Pogledajmo kolika µ je vjerojatnost da je X = k. Od 1000 proizvoda 10 ¶ 1000 ih se moˇze izabrati na naˇcina. Na koliko naˇcina moˇzemo izabrati 10 10 elemenata tako da ih k bude neispravnih? Iz uzorka moramo izabrati k neispravnih i 10 − k ispravnih proizvoda. Neispravni se na µ ¶ µ mogu izabrati ¶ 20 980 naˇcina, a 10 − k ispravnih se mogu izabrati na . Dakle, k 10 − k imamo µ P (X = k) =
20 k
¶ µ ¶ 980 · 10 − k µ ¶ 1000 10
POGLAVLJE 3. DISKRETNA MATEMATIKA
¶ µ 980 · 10 ¶ 1000 10 µ ¶ µ 20 980 · 1 9 µ ¶ 1000 10 µ ¶ µ 20 980 · 2 8 µ ¶ 1000 10 µ ¶ µ 20 980 · 3 7 µ ¶ 1000 10 µ
P (X = 0) =
P (X = 1) =
P (X = 2) =
P (X = 3) =
20 0 µ
109
¶ ≈ 0, 8163179 ¶ ≈ 0, 1679701 ¶ ≈ 0, 0147901 ¶ ≈ 0, 0007296
.. . Iz toga slijedi da je
P (X ≤ 2) = 0, 8163179 + 0, 1679701 + 0, 0147901 ≈ 0, 9990781, Dakle, gotovo je sigurno da ´ce serija biti proglaˇsena korektnom. Sluˇcajna varijabla iz prethodnog primjera primjer je tzv. hipergeometrijske sluˇcajne varijable Hipergeometrijska sluˇcajna varijabla definira se kao sluˇcajna varijabla s m mogu´cih vrijednosti, pri ˇcemu je µ P (X = k) =
r k
¶ µ ¶ n−r · m−k µ ¶ . n m
Definicija 3.43 Neka je X sluˇcajna varijabla. Neka red apsolutno konvergira. Tada je matematiˇcko oˇcekivanje EX =
X ω∈Ω
X(ω) · P ({ω}).
P ω∈Ω
X(ω) · P ({ω})
110
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
Vratimo se sada na binomnu sluˇcajnu varijablu. Neka je Xn sluˇcajna varijabla koja daje sluˇcajni broj uspjeha kada se Bernoullijev pokus ponovi n puta. Zanima nas kakva se vrijednost varijable Xn moˇze oˇcekivati? Matematiˇcko oˇcekivanje ove sluˇcajne varijable je EXn =
n X
i · P (Xn = i)
i=1
je vjerojatnost P (Xn = i)? Lako se vidi da je P (Xn = i) = µ Kolika ¶ n pi · q n−i . Dakle, i µ ¶ n X n i· EXn = pi q n−i (3.42) i i=1
Definicija 3.44 Neka je X sluˇcajna varijabla nad diskretnim vjerojatnosnim prostorom (Ω, P ). Tada se njoj na jednoznaˇcan naˇcin moˇze pridruˇziti tablica µ
¶
a1 a2 . . . an . . . p1 p2 . . . pn . . .
pri ˇcemu je ai ∈ Ω, a pi = P (X = ai ). Gornja se tablica naziva distribucija sluˇcajne varijable X Primjer 3.48 Bacamo li simetriˇcan novˇci´c 6 puta. Koliko se oˇcekuje da ´ce se puta pojaviti grb? Neka je X6 sluˇcajna varijabla koja oznaˇcava broj pojava grba u ˇsest bacanja novˇci´ca. Distribucija ove sluˇcajne varijable dana je s µ X6 =
0
1
2
3
4
5
6
1 64
6 64
15 64
20 64
15 64
6 64
1 64
¶ .
(3.43)
Prema formuli (3.42) vrijedi da je
EX6 =
6 X i=0
µ i·
6 i
¶ µ ¶6 1 · 2
= 3. U prethodnom primjeru, u formuli (3.42) prikazana je distribucija sluˇcajne varijable X. To je uobiˇcajen zapis distribucije diskretne sluˇcajne varijable. Npr, distribucija uniformne sluˇcajne varijable se zapisuje kao µ X=
1 1 n
... n . . . n1
¶ .
POGLAVLJE 3. DISKRETNA MATEMATIKA Op´cenito, binomna sluˇcajna varijabla Xn ima distribuciju
X=
µ
n 0
¶0
µ · p0 q n
... µ ¶1 ¶n n n · p1 q n−1 . . . · pn q 0 1 n
pa je njeno matematiˇcko oˇcekivanje dano s
EXn =
n X
µ i·
i=0
=
n X
µ i·
i=1
n i n i µ
¶ pi q n−i ¶ pi q n−i
¶ n n−1 pi q n−i = i· i−1 i i=1 ¶ n µ X n−1 pi−1 q n−i = np i−1 i=1 n−1 Xµ n−1 ¶ = np pi q n−i i n X
i=0
= np(p + q)n−1 = np.
Teorem 3.17 Neka je sluˇcajna varijabla dana s µ X=
a1 a2 . . . p1 p2 . . .
¶ .
Tada, ako matematiˇcko oˇcekivanje postoji, vrijedi
EX =
X
ai · pi .
ω∈Ω
Dokaz. Neka red
P ω∈Ω
X(ω) · P ({ω}) apsolutno konvergira. Tada je
111
112
3.8. DISKRETNA TEORIJA VJEROJATNOSTI
EX =
X
X(ω) · P ({ω})
ω∈Ω
=
=
X
X
ai
ω∈Ω X(ω) = ai
X
X(ω) · P ({ω})
ai · P (X = Ai )
ai
=
X
a i · pi .
ai
Navedimo neka svojstva matematiˇckog oˇcekivanja: Teorem 3.18 Neka su X i Y sluˇcajne varijable, α, β ∈ R i neka je g : R → R proizvoljna realna funkcija. Tada je: P 1. Eg(X) = g(ai )pi , ai
2. E(αX + βY ) = αEX + βEY , Dokaz. 1. Neka matematiˇcko oˇcekivanje od X postoji. Tada vrijedi X Eg(X) = g(ω)P ({ω}) ω∈Ω
=
X
g(ai )P (X = ai )
ai
=
X
g(ai )pi .
ai
2. Ako X i Y imaju dobro definirano matematiˇcko oˇcekivanje, onda je
E(αX + βY ) =
X
(αX + βY )(ω) · P ({ω})
ω∈Ω
=
X
(αX(ω) + βY (ω))
ω∈Ω
= α
X
X(ω)P (ω) + β
ω∈Ω
= αEX + βEY.
X ω∈Ω
Y (ω)P (ω)
POGLAVLJE 3. DISKRETNA MATEMATIKA
113
Time je teorem dokazan. Primjer 3.49 Zadana je diskretna uniformna sluˇcajna varijabla. Izraˇcunajmo njeno matematiˇcko oˇcekivanje. EX =
n X i=0
i·
1 n+1 = n 2
Primjer 3.50 Izraˇcunajmo matematiˇcko oˇcekivanje sluˇcajne varijable koja ima hipergeometrijsku distribuciju. Imamo µ
¶ µ ¶ n−r · m X m−k µ ¶ EX = k· n k=0 m µ ¶ µ ¶ r n−r · m X k m−k µ ¶ = k· n k=1 m µ ¶ µ ¶ m X 1 r n−r ¶ = µ k· · . k m−k n k=1 m r k
Prema pravilu apsorpcije slijedi da je µ ¶ µ ¶ m X r 1 r−1 n−r ¶ k· · · k−1 m−k k n k=1 m ¶ µ ¶ m µ X 1 r−1 n−r µ ¶ · = r· k−1 m−k n k=1 m µ ¶ µ ¶ m X 1 r−1 n−r µ ¶ = r· (−1) · . k m−k−1 n k=0 m
EX =
µ
No, kako vrijedi da je ¶ µ ¶ µ ¶ l µ X a b a+b · = , k l−k l k=0
114
3.8. DISKRETNA TEORIJA VJEROJATNOSTI Izlazi da je 1 ¶ EX = r · µ n m
µ
n−1 m−1
1 ¶ = r· µ n−1 n m m−1 m = · r. n
µ
¶
n−1 m−1
¶
No, matematiˇcko oˇcekivanje nam samo daje oˇcekivanu vrijednost sluˇcajne varijable. Druga vaˇzna informacija koja se moˇze izraˇcunati jest koliki ´ce biti rasap vrijednosti sluˇcajne varijable oko te oˇcekivane vrijednosti, tj. koliko se moˇze oˇcekivati da ´ce se vrijednost u ve´cini sluˇcajeva udaljavati od oˇcekivane vrijednosti? Definicija 3.45 Neka je X sluˇcajna varijabla. Varijanca od X je V arX = E[(X − EX)2 ]. √ Nadalje, standardna devijacija od X definira se kao σ X = V arX. Primjer 3.51 Izraˇcunajmo varijancu i standardnu devijaciju diskretne uniformne sluˇcajne varijable. Njena varijanca iznosi "µ
¶ # n+1 2 V arX = E X− 2 ¶ µ n X n+1 2 1 = i− · 2 n i=1 " n # n X 1 X 2 (n + 1)2 = i − (n + 1) · i+ ·n n 4 i=1
=
i=1
n2 − 1 , 12
odnosno √ √ 3 · n2 − 1 σX = . 6 Za kraj ovog poglavlja dat ´cemo joˇs jedan zanimljiv pojam - pojam indikatorske sluˇcajne varijable. Definicija 3.46 Neka je A dogadaj iz Ω. Tada se indikatorska sluˇcajna varijabla dogadaja A definira kao
POGLAVLJE 3. DISKRETNA MATEMATIKA ½ I(A) =
115
1 ako se dogadaj A dogodio . 0 ako se dogadaj A nije dogodio
Propozicija 3.16 Neka je A dogadaj u Ω. Tada je EI(A) = P (A). Dokaz. EI(A) = 1 · P (A) + 0 · P (AC ) = P (A).
Primjer 3.52 Neka je X sluˇcajna varijabla koja oznaˇcava broj glava koje su pale prilikom n bacanja simetriˇcnog novˇci´ca. Neka je Xi sluˇcajna varijabla koja oznaˇcuje uspjeh i-tog bacanja. Neka je Yi = I(X = i), X=
n X
Yi ,
i=0
Tada je EX = E
" n X i=0
# Yi =
n X
EYi =
i=0
n . 2
Ako gledamo op´cenitu binomnu varijablu, imat ´cemo: # " n n X X EYi = np. EXn = E Yi = i=0
i=0
Ovaj smo rezultat ve´c dobili i ranije, bez koriˇstenja indikatorksih varijabli, no uz koriˇstenje indikatorskih varijabli, postupak dobivanja ovog rezultata postao je znatno jednostavniji i kra´ci. Indikatorske varijable ne donose niˇsta nova, no omogu´cuju da se neki pojmovi jednostavnije zapiˇsu te da se postupak dobivanja nekih rezultata osjetno skrati.
3.9
Zadaci
1. Odredite skupove A i B takve da vrijedi A ⊆ B i P (A) = P (B). 2. Odredite presjek skupova P (∅), P (P (∅)) i P (P (P (∅))). 3. Zadan je skup A = {∅}. Ispiˇsite P (P (A)). 4. Koji su od navedenih skupova medusobno jednaki: A = {a, b}, B = {b, a} ∪ ∅, C = {a, b} ∪ {∅}, D = {∅, a, b}, E = {a, b, ∅} ∪ {a}?
116
3.9. ZADACI
5. Zadana je relacija
ρ = {(a, b) ∈ S | a je viˇsekratnik od b} , S = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12} (a) Ispiˇsite sve elemente zadane relacije. (b) Koja svojstva ima zadana relacija (refleksivnost, simetriˇcnost, antisimetriˇcnost, tranzitivnost)? (c) Da li je ρ relacija ekvivalencije? (d) Da li je ρ relacija parcijalnog uredaja? 6. Zadana je relacija ({1, 2, 3, 4, 6}, |}) gdje a|b oznaˇcava da a dijeli b. (a) Ispiˇsite sve elemente relacije. (b) Provjerite da li je tom relacijom zadana relacija parcijalnog uredaja. (c) Prikaˇzite relaciju pomo´cu skupa uredenih parova. (d) Prikaˇzite relaciju pomo´cu usmjerenog grafa. (e) Prikaˇzite relaciju pomo´cu Hasseovog dijagrama. 7. Zadan je skup toˇcaka u ravnini bez ishodiˇsta. Za a, b ∈ S definiramo a ∼ b ako je a = b ili ako a i b leˇze na pravcu kroz ishodiˇste. (a) Dokaˇzite da je ∼ relacija ekvivalencije. (b) Nadite klase ekvivalencije zadane relacije. 8. Neka su R1 i R2 refleksivne i simetriˇcne relacije na A. Provjerite jesu li tada i R1 ∩ R2 i R1 ∪ R2 refleksivne i simetriˇcne relacije na A? 9. (a) Moˇze li relacija istodobno biti relacija ekvivalencije i relacija parcijalnog uredaja? (b) Da li je relacija okomitosti na skupu svih pravaca u ravnini relacija ekvivalencije? Obrazloˇzite svoje odgovore. 10. Neka je R relacija ekvivalencije na A, a S relacija ekvivalencije na B. Definiramo ((a2 , b1 ), (a2 , b2 )) ∈ T ako i samo ako je (a1 , a2 ) ∈ R i (b1 , b2 ) ∈ S. Dokaˇzite da je T relacija ekvivalencije na A × B.
POGLAVLJE 3. DISKRETNA MATEMATIKA
117
11. Neka je A = Z 2 . Za a = (a1 , a2 ) b = (b1 , b2 ) iz A definiramo a ¹ b ⇔ a1 + a2 ≤ b1 + b2 . Pokaˇzite da je ¹ parcijalni uredaj na A. Da li je ovo totalni uredaj? 12. Napiˇsite sve mogu´ce relacije na skupu A = {1, 2}. 13. Na skupu S = {a, b, c} napiˇsite jednu relaciju ekvivalencije i jednu relaciju parcijalnog uredaja. 14. Rjeˇsite sustav:
x ≡ 2(mod 7) x ≡ 7(mod 11) x ≡ 5(mod 13). 15. Rjeˇsite sustav:
x ≡ 3(mod 10) x ≡ 8(mod 15) x ≡ 5(mod 84). (Primijetite da 5,15, 84 nisu po parovima relativno prosti.) 16. Neka je A = {1, 2} i B = {a, b, c} (a) Ispiˇsite sve funkcije iz A u B te iz B u A. (b) Nadite sve injekcije iz A u B. (c) Nadite sve surjekcije iz A u B. (d) Postoji li bijekcija izmedu ova dva skupa? 17. Ako je k(A) = m i k(B) = n, koliko ima razliˇcitih funkcija iz A u B? 18. Neka je bxc najve´ci cijeli broj manji od x. Definiramo funkciju f : R → R formulom f (x) = x − bxc. (a) Ispitajte je li f injekcija. (b) Ispitajte je li f surjekcija. 19. Nadite barem jednu bijekciju f :< 0, 1 >→ R koja osigurava da < 0, 1 > i R imaju jednak kardinalni broj.
118
3.9. ZADACI
20. Neka je
A = {a1 , a2 , a3 , a4 } i ρ = {(a1 , a1 ), (a2 , a1 ), (a2 , a2 ), (a2 , a3 ), (a2 , a4 ), (a3 , a3 ), (a3 , a4 ), (a4 , a4 )}. (a) Odredite matricu susjedstva za ρ. (b) Pokaˇzite sa je ρ relacija parcijalnog, ali ne i linearnog uredaja. 21. Pretpostavimo da je ρ tranzitivna relacija na A × A. Je li obrat ρ od ρ takoder tranzitivna relacija? Ako nije pronadite protuprimjer. 22. Na skupu A = {0, 1, 2, 3} je zadana relacija (a) ρ1 = {(i, j) : i + j = 3}, (b) ρ2 = {(i, j) : i + j ≤ 4}. Ispitajte jesu li to relacije kvaziuredaja. Jesu li to relacije parcijalnog uredaja? Nacrtajte Hasseov dijagram tih relacija. 23. Dokaˇzite da ako je ρ relacija totalnog uredaja na A, tada je ρ ∪ ρ = A × A. 24. Dokaˇzite da ako je ρ relacija totalnog uredaja i M njena matrica susjedstva onda je M + M > = I (jediniˇcna matrica). 25. Dokaˇzite da kod zbrajanja modulo 2 vrijedi (a + b)2 = a2 + b2 . 26. Dokaˇzite sa otvoreni intervali < 1, 2 > i < 0, +∞ > imaju jednake kardinalne brojeve. 27. Neka su f : A → B i g : B → C funkcije. Dokaˇzite (a) Ako je f bijekcija, onda je i f −1 bijekcija. (b) Ako f raste onda i f −1 raste. (c) Ako su f i g bijekcije, onda je i f ◦ g bijekcija. (d) Ako je g ◦ f bijekcija i f surjekcija, onda je i g bijekcija. 28. Nadite sve elemente iz Z6 , Z7 i Z8 koji imaju inverze s obzirom na mnoˇzenje. 29. Dokaˇzite pomo´cu matematiˇcke indukcije da skup koji se sastoji od n elemenata ima 2n podskupova.
POGLAVLJE 3. DISKRETNA MATEMATIKA
119
30. Nadite kontraprimjer za jednakost (A ∪ B) ∩ C = A ∪ (B ∩ C). ˇ je S , a ˇsto T ? 31. Neka je za svaki n ∈ N, An = {n}. Sto n∈N
n∈N
32. Koje su od sljede´cih funkcija bijekcije? (a) f : R → R, f (x) = 3x − 1 (b) f : R → R, f (x) = 2x3 (c) f : R → R, f (x) = x4 (d) f : R → R × R, f (x) = (x, x) (e) f : Z × Z → Z, f (m, n) = m − n (f) f : R+ → R, f (x) = log x − 2 33. Neka je S skup svih binarnih nizova, tj. beskonaˇcnih nizova koji se sastoje od nula i jedinica. Pokaˇzite da je S neprebrojivo beskonaˇcan. 34. Pomo´cu metode karakteristiˇcne jednadˇzbe pronadite eksplicitni zapis sljede´cih rekurzivnih jednadˇzbi: (a) an = 3 · an−1 , a0 = 1 (b) an = 4 · an−1 − an−2 − 6 · an−3 , a0 = 0, a1 = 1, a2 = 17 (c) an = 2 · an−1 − an−2 , a0 = 0, a1 = 1 (d) an = −an−1 − an−2 , a0 = 0, a1 = 1 (e) an = an−1 + an−2 + 2 + 4 · n, a0 = 0, a1 = 1 (f) an = 2 · an−1 − 3 · an−2 + 3, a0 = 1, a1 = 1 (g) an = a n2 + 2 · n + 3, a1 = 1 35. Pokuˇsajte rijeˇsiti prethodne zadatke pomo´cu funkcija izvodnica. 36. Bakterije se razvijaju prema shemi: svaka ˇzivi jedan sat i svakih pola sata daje jednu novu bakteriju (dakle, svega dvije tijekom ˇzivota). Koliko je potomstvo jedne bakterije nakon 48 sati? 37. Na vojnoj paradi sudjeluje 10 jedinica. Ako su jedinice poredane jedna za drugom, na koliko naˇcina moˇzemo poredati jedinice na paradi? 38. U selu ima 10 mladi´ca i 8 djevojaka. Na koliko se naˇcina oni mogu spojiti u parove, tako da svaka djevojka ima jednog momka? 39. Imamo po tri kuglice crvene, plave i ˇzute boje. Na koliko naˇcina ih moˇzemo razvrstati u tri kutije tako da u svakoj kutiji budu toˇcno tri kuglice?
120
3.9. ZADACI
40. Na koliko se razliˇcitih naˇcina ˇcovjek moˇze popeti uz n stepenica, ako odjednom moˇze zakoraˇciti na jednu ili dvije stepenice? Dva uspinjanja smatramo jednakim ako smo kroˇcili na toˇcno iste stepenice. 41. Komunikacijskim kanalom mogu se prenijeti poruke sastavljene od triju simbola: a = ·, b = + i c = −. Dopustive su one poruke kod kojih se na susjednim mjestima ne pojavljuje simbol a. Koliko ima dopustivih poruka duljine n? 42. Na koliko n pravaca najviˇse dijelova dijeli kruˇznicu? 43. Od 8 ˇzena i 4 muˇskarca treba izabrati delegaciju. Na koliko se naˇcina moˇze izabrati: (a) Petero ljudi od kojih su barem dvije ˇzene? ˇ (b) Sestero ljudi, po troje istog spola? (c) Bilo koji broj ljudi, uz uvjet da mora biti jednak broj muˇskih i ˇzenskih osoba? 44. U neprozirnoj vre´ci nalazi se devet obojenih kuglica: tri crvene, tri ˇzute i tri plave. Izvlaˇcimo tri kuglice. Kolika je vjerojatnost da sve tri izvuˇcene kuglice budu iste boje? 45. U koˇsari se nalazi 20 jabuka, 10 crvenih i 10 ˇzutih. Zna se da crvene jabuke trule brˇze od ˇzutih i da je 20% crvenih jabuka trulo, a 10% ˇzutih. Ako nasumce uzmemo 5 jabuka, i ako je od njih jedna trula, kolika je vjerojatnost da trula jabuka bude ˇzuta? 46. Imamo 50 ˇzutih i 50 crvenih sijalica u istoj kutiji. 10% posto ˇzutih i 15% crvenih sijalica ne radi. Iz kutije izvlaˇcimo 10 sijalica i njih 3 ne radi. Koja je vjerojatnost da su sve pokvarene sijalice crvene? 47. Lovac puca na glinene golubove. Na svakog goluba moˇze ispaliti dva metka. Vjerojatnost pogotka svakim metkom jest 20%. Lovac puca na 10 golubova. Koliko se oˇcekuje da ´ce lovac pogoditi golubova? Kolika je standardna devijacija matematiˇckog oˇcekivanja? 48. Ljut na dvorskog matematiˇcara car naredi da se donese n urni, n crnih i n bijelih kuglica. Matematiˇcar mora rasporediti sve kuglice u urne tako da u svakoj urni bude barem jedna kuglica. Dvorski ´ce krvnik nasumce odabrati jednu od tih urni i sluˇcajno izvu´ci jednu kuglicu. Ako izvuˇce bijelu, car ´ce pomilovati matematiˇcara, a ako izvuˇce crnu, bit ´ce pogubljen. Kako matematiˇcar treba rasporediti kuglice da ima najve´ce izglede da preˇzivi? Nadite optimalan raspored i vjerojatnost pomilovanja. Za koji najmanji n matematiˇcar ima bar 90% izgleda da preˇzivi?
POGLAVLJE 3. DISKRETNA MATEMATIKA
121
49. Meta se gada ˇcetiri puta uz vjerojatnost pogotka od 0,8. Neka je X sluˇcajna varijabla ˇcija je vrijednost broj pogodaka u metu. Pronadite (a) distribuciju za X, (b) P (1 ≤ X ≤ 3). 50. Pokus se sastoji od bacanja nesimetriˇcnog novˇci´ca, na kojemu vjerojatnost da se pojavi glava iznosi p. Neka se pokus sastoji od n bacanja novˇci´ca. Koriˇstenjem indikatorske varijable izraˇcunajte vjerojatnost da se glava pojavila najmanje k puta.
3.10
Projekti
1. Promatrajte relacije na S × S i njima pridruˇzene matrice susjedstva. Relaciji ρ pridruˇzena je matrica M (ρ). Na matricama definiramo Booleovu aritmetiku (zbrajanje i mnoˇzenje modulo 2). Pokaˇzite kako se kompozicija relacija povezuje s operacijama na njima pripadnim matricama. Interpretirajte na isti naˇcin inverz relacije. U kakvoj su vezi svojstva relacija (refleksivnost, tranzitivnost) te odnos M (ρ) i M 2 (ρ). (Uputa: upotrijebite literaturu [3]) 2. Upotrebom aritmetike modulo 3,7,12 i 100 moˇze se napraviti algoritam za izraˇcunavanje dana u tjednu za bilo koji datum od 1900. do 2100. godine. Objasnite taj algoritam.
122
3.10. PROJEKTI
Bibliografija [1] Cormen, T. H.; Lieserson, C. E,; Rivest, R. L.; Stein, C.: Introduction to Algorithms, 2nd edition, The MIT Press, Cambrige, 2001. [2] Devlin, K.: Sets, Functions and Logic, Chapman & Hall/CRC, New York, 2004. [3] Dymaˇcek, W.M.; Sharp, H.: Introduction to Discrete Mathematics, WBC/McGraw-Hill, International Editions, New York, 1998. [4] Divjak, B.; Hunjak, T.: Matematika za informatiˇcare, TIVA-FOI, Varaˇzdin, 2004. [5] Goodaire, E.G.; Parmenter, M.M.: Discrete Mathematics with Graph Theory , Prentice-Hall, Upper Side River, 1998. [6] Lipschutz, S.; Schiller, J.J.: Finite Mathematics, 2nd ed., Schaumm’s Outline Series, McGrow-Hill, New York, 1995. ˇ [7] Pavkovi´c, B., Daki´c, B.: Polinomi, Skolska knjiga, Zagreb, 1987. ˇ [8] Sarapa, N.: Teorija vjerojatnosti, Skolska knjiga, Zagreb, 1987. [9] Shen, A.; Vereschchagin: Basic Set Theory, AMS, 2002. ˇ c, Z: Kako je stvarana novovijekovna matematimka, Skolska ˇ [10] Siki´ knjiga, Zagreb, 1989. [11] Tucker, A.: Applied Combinatorics, 3rd edition, John Wiley & Sons, New York, 1995. ˇ [12] Veljan, D.: Kombinatorika s teorijom grafova, Skolska knjiga, Zagreb, 1989. [13] Whitesitt, J. E.: Boolen Algebra and Its Application, Dover Publications, Inc. New York, 1992. [14] Wilf, H. S. (1994): Algorithms and Complexity, Internet edition, ftp://ftp.cis.upenn.edu/pub/wilf/AlgComp.ps.Z
123
124
BIBLIOGRAFIJA
Poglavlje 4
Algoritmi Moˇze se ˇciniti da smo dostigli granice mogu´ceg u raˇcunalnoj tehnologiji. Ipak, s takvim izjavama treba biti oprezan, jer bi mogle zvuˇcati smijeˇsno za pet godina. John von Neumann (izrekao 1949.)
4.1
Pojam algoritma
Algoritam je striktno definirani postupak koji daje rjeˇsenje nekog problema. Iako se pojam algoritma koristi intenzivno u posljednje vrijeme, odnosno od pojave raˇcunala, on je nastao mnogo ranije, prvenstveno u matematici. Prvi znaˇcajni algoritam, koji se joˇs i danas koristi, nastao je joˇs u 3. st. prije naˇse ere. Taj je algoritam poznat kao Euklidov algoritam jer ga je prvi opisao grˇcki matematiˇcar Euklid u svojoj knjizi ”Elementi” (Στ oιχεια). Sam naziv dolazi od imena Iranskog matematiˇcara Abu Ja’far Mohammed ibn Mˆ usˆa al-Khowˆarizmˆı koji je 825. godine napisao knjigu pod nazivom ”Pravila restoracije i reduk- Slika 4.1: Donald Erwin Knuth cije”. D.E. Knuth (1938-) je dao pet svojstava koja algoritam mora zadovoljavati: 1. Konaˇ cnost. Algoritam mora zavrˇsiti nakon izvrˇsenih konaˇcno mnogo koraka. Takoder, algoritam mora biti opisan pomo´cu konaˇcnog broja operacija, a i svaka operacija mora biti konaˇcne duljine. 2. Definitnost. Svaki korak algoritma mora sadrˇzavati nedvosmislene, rigorozno definirane operacije. 125
126
4.1. POJAM ALGORITMA
3. Ulaz. Svaki algoritam mora imati 0 ili viˇse ulaza. 4. Izlaz. Svaki algoritam mora imati 1 ili viˇse izlaza. 5. Efektivnost. Algoritam mora biti efektivan, tj. mora biti takav da se moˇze izvesti samo uz pomo´c olovke i papira u konaˇcno vrijeme. Treba napomenuti da je algoritam intuitivni pojam te da ga ve´c godinama matematiˇcari pokuˇsavaju striktno definirati. Postoji ˇcitav niz razliˇcitih pokuˇsaja formalizacije pojma algoritma. Medutim, do danas nije dokazano da li je ijedna od tih formalizacija korektna. Postoji tek tvrdnja, poznata kao Churchova teza ili Churchova hipoteza koja kaˇze da su λ-raˇcun, Turingov stroj, logika Hornovih klauzula itd, dobro definirani modeli algoritma. Ova tvrdnja, medutim, nikada nije dokazana. Bez obzira na to, moˇze se re´ci da je algoritam postupak za rjeˇsavanje nekog masovnog problema. Slika 4.2: Alonzo Church Masovni problem je op´ cenito pitanje na koje je potrebno na´ci odgovor, a koje obiˇcno ima parametre koji kod zadavnja problema ostaju neodredeni. Upravo zbog toga ˇsto parametri masovnog problema ostaju neodredeni, za problem kaˇzemo da je masovan. Pri definiciji masovnog problema potrebno je zadati: 1. generalni opis svih parametara, 2. ograniˇcenja koja rjeˇsenje masovnog problema mora zadovoljavati. Specificiranjem svih parametara masovnog problema dobivamo instancu problema. Za algoritam kaˇzemo da rjeˇsava masovni problem ako daje rjeˇsenje za svaku pojedinu instancu problema. Kao primjer opiˇsimo jedan od najstarijih i najpoznatijih algoritama, ve´c ranije spomenuti Euklidov algoritam za pronalaˇzenje najve´ce zajedniˇcke mjere dvaju prirodnih brojeva. Algoritam 4.1 (Euklidov algoritam) ULAZ: Dva prirodna broja a i b. IZLAZ: Najve´ca zajedniˇcka mjera M (a, b) brojeva a i b. 1. Ako je a < b zamijeni a i b. 2. r := a mod b. 3. a := b, b := r.
POGLAVLJE 4. ALGORITMI
127
4. Ako je r 6= 0 idi na 2. 5. Vrati a. Postavlja se pitanje kako moˇzemo biti sigurni da je algoritam ispravan? Potrebno je formalno dokazati da je ovaj algoritam korektan. To znaˇci da treba dokazati da ´ce za svaka dva broja ovaj algoritam dati rjeˇsenje nakon konaˇcnog broja koraka, a da ´ce dano rjeˇsenje zaista biti najve´ca zajedniˇcka mjera tih dvaju brojeva. Lema 4.1 Neka su a, b, r ∈ N. Ako je a = b·q+r, onda je M (a, b) = M (b, r). Dokaz. Napomenimo na poˇcetku da brojevi a i b moraju biti razliˇciti od 0, jer u suprotnom njihova najve´ca zajedniˇcka mjera nije definirana. M (b, r) mora biti djeljivo s b i s r po definiciji zajedniˇcke mjere. No onda je M (b, r) djeljivo s bq+r = a. Dakle, M (b, r) je zajedniˇcka mjera brojeva a i b. Op´cenito, kako je M (a, b) najve´ca zajedniˇcka mjera brojeva a i b, a M (b, r) je takoder zajedniˇcka mjera tih brojeva, sigurno je M (a, b) ≥ M (b, r). S druge strane, M (a, b) dijeli a i b, pa onda dijeli i a − qb = r. Dakle, M (a, b) je zajedniˇcka mjera brojeva b i r. No kako je M (b, r) najve´ca mjera tih dvaju brojeva, onda je M (a, b) ≤ M (b, r). Zajedno izlazi da je M (a, b) = M (b, r) ˇsto je i trebalo dokazati. Propozicija 4.1 Algoritam 4.1 ´ce uvijek zavrˇsiti, a kada zavrˇsi vratit ´ce najve´cu zajedniˇcku mjeru brojeva s ulaza. Dokaz. Prvo dokaˇzimo da algoritam zavrˇsava. Primijetimo da je ostatak od dijeljenja uvijek manji od djelitelja. Stoga je r uvijek manji od b, tako da se b uvijek smanjuje barem za 1. S druge strane, ostatak kod dijeljenja uvijek je prirodan broj ili 0. Zbog ove dvije ˇcinjenice nakon najviˇse b koraka r mora postati 0 i u tom trenutku algoritam ´ce stati. Drugo ˇsto trebamo dokazati jest toˇcnost rjeˇsenja koje algoritam daje. Ovaj dokaz ide indukcijom po broju prolaza kroz korake od 2 do 4. Baza indukcije: ako je u prvom koraku r = 0, onda broj a djeljiv s b, pa je njihova najve´ca zajedniˇcka mjera broj b, a to je upravo ono ˇsto ´ce algoritam vratiti u ovom sluˇcaju. Korak indukcije: pretpostavimo da tvrdnja vrijedi kada se do rjeˇsenja dode u najviˇse k prolaza. Pretpostavimo da je algoritam zavrˇsio u k + 1 prolazu. Prema lemi 4.1 M (a, b) = M (b, r), a = q · b + r.
(4.1)
No, prema pretpostavci indukcije, kako je mjera od b i r nadena u k prolaza, vrijedi da je algoritam pronaˇsao mjeru brojeva b i r, a onda prema tvrdnji 4.1 vrijedi da je nadeni broj ujedno i najve´ca zajedniˇcka mjera brojeva a i b.
128
4.1. POJAM ALGORITMA
Primijetimo da svaka dva prirodna broja imaju jedinstvenu najve´cu zajedniˇcku mjeru. Zadatak 4.1 Dokaˇzite postojanje i jedinstvenost najve´ce zajedniˇcke mjere dvaju prirodnih brojeva. Najve´ca zajedniˇcka mjera se, na isti naˇcin kao ˇsto je definirana za priˇ rodne brojeve, moˇze definirati i za polinome. Stoviˇ se, tom sluˇcaju za njeno pronalaˇzenje moˇzemo primijeniti algoritam analogan Euklidovom algoritmu za brojeve. Viˇse o tome moˇze se na´ci u [8] Sljede´ci algoritam, koji ´cemo ovdje obraditi jest Hornerov algoritam ili Hornerova shema. To je algoritam koji izraˇcunava vrijednost polinoma u zadanoj toˇcki. Prije negoli zapiˇsemo ovaj algoritam, dokazat ´cemo njegovu ispravnost. Nas Hornerov algoritam prvenstveno zanima s aspekta izraˇcunavanja vrijednosti polinoma u zadanoj toˇcki, no sam Hornerov algoritam ima i druge aspekte. Viˇse o tome moˇzete na´ci u [8]. Polinom n-tog stupnja je funkcija oblika Pn (x) = an xn + an−1 xn−1 + . . . + a1 x + a0 . Izluˇcimo li iz prvih n pribrojnika gornjeg polinoma x, dobit ´cemo Pn (x) = (an xn−1 + an−1 xn−2 + . . . + a1 )x + a0 . Ponovimo li ovaj postupak na prvih n − 1 pribrojnika unutar zagrade, imat ´cemo Pn (x) = ((an xn−2 + an−1 xn−3 + . . . + a2 )x + a1 )x + a0 . Ponovimo li ovaj postupak joˇs n − 3 puta konaˇcno dobivamo Pn (x) = ((. . . ((an x + an−1 )x + an−2 ) + . . . + a2 )x + a1 )x + a0 . Ovaj se oblik polinoma naziva Hornerova shema. Sljede´ci algoritam izraˇcunava vrijednost polinoma Pn (x) u toˇcki x koriste´ci posljednji oblik polinoma. Algoritam 4.2 (Hornerov algoritam) ULAZ: Broj x ∈ R IZLAZ: Vrijednost P (x) = an xn + an−1 xn−1 + . . . + a1 x + a0 1. i := n − 1, p := an . 2. p := p · x + ai . 3. i := i − 1.
POGLAVLJE 4. ALGORITMI
129
4. Ako je i ≥ 0 idi na 2. 5. Vrati p. Postavlja se pitanje ˇcemu koristiti Hornerov algoritam kada se vrijednost polinoma moˇze izraˇcunati i iz njegovog uobiˇcajenog oblika sljede´cim algoritmom: Algoritam 4.3 ULAZ: Broj x ∈ R IZLAZ: Vrijednost P (x) = an xn + an−1 xn−1 + . . . + a1 x + a0 1. i := 0, p := 0 2. p := p + ai · xi 3. i := i + 1 4. Ako je i ≤ n idi na 2 5. Vrati p. Korektnost ovog algoritma je oˇcita. Usporedimo sada ova dva algoritma za pronalaˇzenje vrijednosti polinoma. Usporedivat ´cemo ih po broju raˇcunskih operacija koje trebaju izvesti da bi izraˇcunali rjeˇsenje. Pri tome ne´cemo uraˇcunavati raˇcunske operacije potrebne za pove´canje, odnosno smanjenje brojaˇca i. To i tako nije vaˇzno, jer prvi algoritam ima n smanjenja, a drugi n + 1 pove´canje brojaˇca i, ˇsto je zanemariva razlika. Algoritam 4.2 prolazi kroz korake od 2 do 4 toˇcno n puta. U svakom prolazu on u koraku 2 napravi jedno zbrajanje i jedno mnoˇzenje. To ukupno daje n zbrajanja i n mnoˇzenja. Algoritam 4.3 pak prolazi n + 1 puta kroz korake 2 do 4. U svakom prolazu on u koraku 2 napravi jedno zbrajanje, jedno mnoˇzenje i jedno potenciranje. Bez ve´ce pogreˇske, potenciranje se moˇze shvatiti kao niz uzastopnih mnoˇzenja. Pri tome izraˇcunavanje x0 i x1 ne zahtjeva nijedno mnoˇzenje, n−1 P dok za i > 1 xi zahtjeva i − 1 mnoˇzenje. To ukupno daje i = (n−1)n 2 i=1
mnoˇzenja. Dakle, algoritam 4.3 zahtijeva n + 1 zbrajanje i (n + 1) + (n−1)n 2 mnoˇzenja. Broj mnoˇzenja u ovom algoritmu raste kvadratno i ve´ci je od broja mnoˇzenja u Hornerovu algoritmu za svaki n ∈ N. Primijetimo da se u algoritmu 4.3 izraˇcunavaju sve ve´ce i ve´ce potencije istog broja x. Jasno je da se svaka sljede´ca potencija moˇze izraˇcunati mnoˇzenjem potencije dobivene u prethodnom koraku s x, tj. xi = xi−1 · x. Ovakav ´ce pristup znatno smanjiti broj mnoˇzenja u algoritmu. Ugradivanjem ove ideje u algoritam 4.3 dobit ´cemo sljede´ci algoritam:
ˇ 4.2. SLOZENOST ALGORITAMA
130
Algoritam 4.4 ULAZ: Broj x ∈ R IZLAZ: Vrijednost P (x) = an xn + an−1 xn−1 + . . . + a1 x + a0 1. i := 0, p := 0, y := 1. 2. p := p + ai · y. 3. i := i + 1, y := y · x. 4. Ako je i ≤ n idi na 2. 5. Vrati p. Pogledajmo sada broj mnoˇzenja i zbrajanja u ovom algoritmu. I opet broj prolaza kroz korake 2 do 4 bit ´ce n + 1. U svakom prolazu imamo jedno zbrajanje u koraku 2. Isto tako imamo jedno mnoˇzenje u koraku 2, ali i jedno mnoˇzenje u koraku 3. To daje ukupno n + 1 zbrajanja i 2n + 2 mnoˇzenja, ˇsto je daleko bolje nego kod algoritma 4.3, ali joˇs uvijek viˇse nego dvostruko loˇsije nego kod algoritma 4.2. Cilj ove analize jest prona´ci broj operacija koje algoritam mora izvesti kako bi izraˇcunao rjeˇsenje. Smatrat ´cemo da je bolji onaj algoritam koji izvodi manje operacija, jer ´ce on i brˇze zavrˇsiti. Stoga je Hornerov algoritam superioran nad preostala dva, i to je razlog zbog ˇcega se on koristi. Ova nas analiza uvodi u sljede´ce poglavlje koje ´ce se baviti sloˇzenoˇs´cu algoritama, tj. mjerom pomo´cu koje ´ce se mo´ci usporedivati razliˇciti algoritmi koji rjeˇsavaju isti problem.
4.2
Sloˇ zenost algoritama
U proˇslom smo poglavlju vidjeli da se za isti problem mogu dati razliˇciti algoritmi. Ako su dana dva ili viˇse algoritma, koja rjeˇsavaju isti masovni problem, prirodno se postavlja pitanje koji od njih izabrati i koristiti. Zbog toga je potrebno odrediti mjeru kakvo´ce algoritma, kako bismo pri izboru mogli izabrati onaj algoritam koji je bolji. U ovom ´cemo se poglavlju baviti upravo mjerenjem kakvo´ce algoritama. Kako mjeriti kakvo´cu pojedinog algoritma, odnosno ˇsto treba mjeriti da bi se dobila kakvo´ca algoritma? Ono ˇsto se mjeri jest koliˇcina resursa koje algoritam treba da bi rijeˇsio problem. Dvije mjere koje se najˇceˇs´ce koriste za odredivanje kakvo´ce algoritma jesu vrijeme potrebno za izvrˇsenje algoritma i prostor potreban za pohranjivanje ulaznih i izlaznih rezultata, kao i medurezultata. Prva od ovih dviju mjera zove se vremenska sloˇzenost algoritma, a druga se zove prostorna sloˇzenost algoritma. U ovom ´cemo se poglavlju, medutim, baviti samo vremenskom sloˇzenoˇs´cu algoritama, jer je ona mjera koja se najˇceˇs´ce koristi za ocjenjivanje kakvo´ce algoritama.
POGLAVLJE 4. ALGORITMI
131
Prostorna se sloˇzenost koristi mnogo rijede. Za to postoje razlozi u koje sada ne´cemo ulaziti. Prvi problem koji se javlja kod odredivanja vremenske sloˇzenosti algoritma jest kako na´ci mjeru koja ne´ce ovisiti o brzini raˇcunala na kojem se algoritam izvodi, ve´c samo o samom algoritmu. Vrijeme potrebno algoritmu da izraˇcuna rjeˇsenje znatno ´ce ovisiti o brzini raˇcunala na kojem se algoritam izvodi. Tako, uzmemo li vrijeme trajanja dvaju algoritama, takva ´ce mjera vrijediti jedino ako se oba algoritma izvode na istom raˇcunalu. Medutim, takva mjera ne bi op´cenito mnogo znaˇcila. Mjera koju ˇzelimo izvesti jest takva da ona ne ovisi o raˇcunalu, ve´c samo o algoritmu. Na taj bismo naˇcin dobili mjeru koja bi imala apsolutno znaˇcenje. Stoga se vremenska sloˇzenost ne izraˇzava vremenom potrebnim da algoritam izraˇcuna rezultat, ve´c brojem elementarnih operacija koje algoritam mora izvesti da bi izraˇcunao rjeˇsenje. Brˇza raˇcunala izvode elementarne operacije brˇze od sporijih. No, radi li se o raˇcunalima koja imaju procesore iste arhitekture, koji se tek razlikuju u brzini internog sata, onda ´ce broj operacija koje algoritam mora izvesti biti isti. Naravno, radi li se o razliˇcitim procesorima, i broj ´ce se elementarnih operacija razlikovati. No, ove ´ce razlike biti neznatne: broj elementarnih operacija razlikovat ´ce se najviˇse za neku multiplikativnu konstantu.
složenost fmax
favg
fmin
n0
Duljina ulaza Slika 4.3
Sljede´ci problem je ˇsto broj operacija koje izvodi algoritam nije fiksan, ve´c ovisi o veliˇcini ulaza. Dakle, instance problema razliˇcitih dimenzija za-
132
ˇ 4.2. SLOZENOST ALGORITAMA
htjevat ´ce razliˇcit broj elementarnih operacija za obradu. Medutim, masovni problem moˇze imati i razliˇcite instance iste duljine, ˇcija vremenska sloˇzenost ne mora biti jednaka. Dakle, sloˇzenost algoritma nije funkcija veliˇcine ulaza (vidi sliku 4.3.) Stoga se ocjena sloˇzenosti vezuje uz odredenu instancu problema. Najˇceˇs´ce se koristi ocjena sloˇzenosti najgoreg sluˇcaja. Pri tome se ocjenjuje sloˇzenost one instance problema odredene duljine za ˇciju obradu algoritam treba najviˇse vremena. Druga mogu´cnost, koja nije tako znaˇcajna jest ocjena sloˇzenosti najboljeg sluˇcaja. Tre´ca, najbolja, ali i najsloˇzenija za izraˇcunavanje, jest ocjena sloˇzenosti prosjeˇcnog sluˇcaja. Ova sloˇzenost nam opisuje kako ´ce se u prosjeku algoritam ponaˇsati. Dok se prve dvije sloˇzenosti vezuju za jednu instancu problema, u posljednjoj je potrebno u obzir uzeti sve instance problema odredene duljine ulaza, te svakoj od njih pridruˇziti vjerojatnost pojavljivanja. Odabirom jedne od ove tri mogu´ce sloˇzenosti, dobijamo funkciju sloˇzenosti algoritma u ovisnosti o duljini ulaza. No, sama sloˇzenost, bez obzira radi li se o maksimalnoj, minimalnoj ili prosjeˇcnoj, moˇze biti funkcija koja nije analitiˇcka, a ako i jest analitiˇcka, moˇze zahtjevati vrlo sloˇzenu formulu za prikaz. Podsjetimo se: analitiˇcka je ona funkcija koja se moˇze prikazati formulom izgradenom pomo´cu aritmetiˇckih operacija i transcedentnih funkcija. S druge strane, ˇzelimo aproksimativno izraziti sloˇzenost, a ne toˇcno. Naime, toˇcan broj operacija je vrlo teˇsko izraˇcunati, a i taj raˇcun ne bi dao neki znaˇcajan rezultat. Osim toga, sama brzina rada algoritma, kao ˇsto smo ve´c rekli ovisit ´ce o raˇcunalu na kojem se algoritam izvodi. Sve su to razlozi zbog kojih se toˇcan raˇcun sloˇzenosti ne isplati. Ono ˇsto se isplati, i ˇsto ´ce znaˇcajno razlikovati algoritme, jest ˇcinjenica koliko brzo ´ce sloˇzenost algoritma rasti u ovisnosti porasta veliˇcine ulaza. Zbog toga ´cemo funkciju sloˇzenosti aproksimirati jednostavnijom funkcijom, koja ´ce dobro opisivati rast funkcije sloˇzenosti pove´canjem nezavisne varijable (vidi sliku 4.3). Zato je prikladno uvesti notaciju koja ´ce jednostavno opisivati brzinu rasta funkcije sloˇzenosti algoritma. Uvodi se asimptotska ocjena rasta funkcije. Najˇceˇs´ce, kada se izraˇcunava sloˇzenost, aproksimacija se vrˇsi tako da aproksimativna funkcija koja je jednostavnija od same funkcije sloˇzenosti, dobro asimptotski opisuje rast funkcije sloˇzenost. No, dozvoljava se da za male n-ove ova aproksimacija ne vrijedi (vidi sliku 4.3). Naime, pretpostavlja se da ´ce svi algoritmi, bez obzira na njihovu sloˇzenost raditi zadovoljavaju´ce za male n-ove, a da ´ce ve´ci problemi nastati kad veliˇcina ulaza poraste. Stoga se kod definicije asimptotskih ocjena funkcija dozvoljava da ocjena ne ocjenjuje funkciju dobro za n < n0 . Na gornjem je grafu funkcija kojom se ocjenjuje sloˇzenost nacrtana tako da omeduje odozgo sloˇzenost u najgorem sluˇcaju. To, medutim, nije nuˇzno. Naime, ako je funkcija f (n) ocjena sloˇzenosti nekog algoritma, onda ´ce i funkcija f (n) + c takoder biti funkcija koja ocjenjuje sloˇzenost tog algoritma. Radi se o tome da nas ne zanima stvarni iznos funkcije sloˇzenosti, ve´c samo koliko brzo ta funkcija raste. Ovime smo zavrˇsili opis ocjene kakvu
POGLAVLJE 4. ALGORITMI
133
ˇzelimo napraviti, pa nam samo joˇs preostaje da definiramo asimptotske ocjene funkcija sloˇzenosti algoritama. Definicija 4.1 Zadane su funkcije f, g : R → R. 1. Kaˇzemo da je f = O(g) ako postoji n0 ∈ N i c ∈ R+ takvi da za svaki n ≥ n0 vrijedi |f (n)| ≤ c · |g(n)|. Druga oznaka: f (n) ¹ g(n). 2. Kaˇzemo da je f = Ω(g) ako postoji n0 ∈ N i c ∈ R+ takvi da za svaki n ≥ n0 vrijedi |f (n)| ≥ c · |g(n)|. Druga oznaka: f (n) º g(n). 3. Kaˇzemo da je f = o(g) ako postoji n0 ∈ N i c ∈ R+ takvi da za svaki n ≥ n0 vrijedi |f (n)| < c · |g(n)|. Druga oznaka: f (n) ≺ g(n). 4. Kaˇzemo da je f = ω(g) ako postoji n0 ∈ N i c ∈ R+ takvi da za svaki n ≥ n0 vrijedi |f (n)| > c · |g(n)|. Druga oznaka: f (n) Â g(n). 5. Kaˇzemo da je f = Θ(g) ako postoji n0 ∈ N i c1 , c2 ∈ R+ takvi da za svaki n ≥ n0 vrijedi c1 · |g(n)| ≤ |f (n)| ≤ c2 · |g(n)|. Druga oznaka: f (n) ∼ g(n). Iako ova definicija vrijedi za realne funkcije realne varijable, funkcije sloˇzenosti su uvijek funkcije sa N u N. Mi ´cemo, medutim, u ovom poglavlju funkcije s kojima ´cemo raditi definirati neˇsto ˇsire, kao funkcije sa N u R. Razlog tome je ˇsto se kod ocjene sloˇzenosti ˇcesto javljaju funkcije koje nisu √ funkcije sa skupa prirodnih brojeva u skup prirodnih brojeva. lg n, n i sl. U biti, kada se jave ove funkcije, sloˇzenost je funkcija sa skupa prirodnih brojeva u skup prirodnih brojeva, ali se njihova brzina rasta ocjenjuje analitiˇckom funkcijom kojoj kodomena nije skup N. Definirane ocjene formaliziraju intuitivni pojam brzine rasta funkcije. Tako moˇzemo kazati da ako vrijedi f (n) = O(g(n)) onda funkcija f ne raste brˇze od g. Ako je pak f (n) = o(g(n)), onda kaˇzemo da funkcija f raste sporije od g. Ako su O i o ocjene koje ocjenjuju funkciju ograniˇcavaju´ci je odozgo, onda su Ω i ω ocjene koje to rade odozdo. Dakle, ako je f (n) = Ω(g(n)), onda kaˇzemo da funkcija f ne raste sporije od g, a ako je f (n) = ω(g(n)), onda kaˇzemo da funkcija f raste brˇze od g. Na kraju imamo ocjenu Θ, koja u sebi objedinjuje ocjene O i Ω. Ako je f (n) = Θ(g(n)), onda kaˇzemo da funkcije f i g rastu jednako brzo. Iz definicije izravno slijede neki odnosi izmedu ovih notacija: Korolar 4.1 • f (n) = Θ(g(n)) ako i samo ako je f (n) = O(g(n)) i f (n) = Ω(g(n)). • Ako je f (n) = o(g(n)) onda je f (n) = O(g(n)). Obrat ne vrijedi.
ˇ 4.2. SLOZENOST ALGORITAMA
134
• Ako je f (n) = ω(g(n)) onda je f (n) = Ω(g(n)). Obrat ne vrijedi. • f (n) = O(g(n)) ako i samo ako je g(n) = Ω(f (n)). • f (n) = o(g(n)) ako i samo ako je g(n) = ω(f (n)) Dokaz. Dokaz izvedite sami. Posljednje dvije toˇcke u prethodnom korolaru nazivaju se transpozitna simetriˇcnost. Propozicija 4.2 Neka je P (n) = a0 + a1 n + . . . + am nm polinom m-tog stupnja. Onda je P (n) = Θ(nm ). Dokaz. Primjenom nejednakosti trokuta na | P (n) | imamo: |P (n)| = |a0 + a1 n + . . . + am nm | ≤ |a0 | + |a1 |n + . . . + |am |nm ≤ |a0 |nm + |a1 |nm + . . . + |am |nm = (|a0 | + |a1 | + . . . + |am |)nm = c · nm Pokaˇzimo i obratno. Treba pokazati da je nm = O(P (n)). Napiˇsimo polinom P (n) u sljede´cem obliku: P (n) = nm (a0 ·
1 1 + a1 · m−1 + . . . + am ). m n n
Za dovoljno veliki n ≥ n0 vrijedi da je |am | 2m pa je
ai nm
≤
|am | 2m ,
m| a isto tako je − |a2m ≤
|am | |am | − ... − ) 2m 2m |am | = nm (|am | − m · ) 2m |am | = nm (|am | − ) 2 |am | = nm · . 2
P (n) ≥ nm (|am | −
Time je dokazano da vrijedi P (n) = Ω(nm ), ˇsto zajedno s prije dokazanom tvrdnjom P (n) = O(n), a prema korolaru 4.1 daje tvrdnju ove propozicije. Iz prethodne propozicije proizlazi sljede´ci korolar: Korolar 4.2 Za proizvoljni a ∈ R je a = Θ(1). Sljede´ci teorem daje karakterizaciju asimptotskih notacija.
POGLAVLJE 4. ALGORITMI
135
Teorem 4.1 f (n) n→∞ g(n)
= 0, onda je f (n) = o(g(n))
f (n) n→∞ g(n)
= C, onda je f (n) = O(g(n))
g(n) n→∞ f (n)
= 0, onda je f (n) = ω(g(n))
g(n) n→∞ f (n)
= C, onda je f (n) = Ω(g(n))
g(n) n→∞ f (n)
= C, C 6= 0, onda je f (n) = Θ(g(n))
1. Ako je lim 2. Ako je lim 3. Ako je lim 4. Ako je lim 5. Ako je lim
Dokaz. Sve tvrdnje se dokazuju sliˇcno. Dokazat ´cemo, na primjer, prvu tvrdnju. Neka je f (n) = 0. n→∞ g(n) lim
Onda je i lim
n→∞
|f (n)| = 0. |g(n)|
Prema definiciji limesa to znaˇci da za svaki ε > 0 postoji n0 ∈ N takav da vrijedi da je ¯ ¯ ¯ f (n) ¯ ¯ ¯ ¯ g(n) ¯ < ε. No, sada imamo ¯ ¯ ¯ f (n) ¯ |f (n)| ¯ ¯ ¯ g(n) ¯ = |g(n)| < ε. Pomnoˇzimo li gornju jednadˇzbu s |g(x)| > 0 dobit ´cemo |f (n)| < ε|g(n)|, odakle slijedi da je f (n) = o(g(n)). Ostale tvrdnje dokaˇzite sami. Sada ´cemo dati joˇs neke odnose medu funkcijama koje se ˇcesto javljaju kod analize sloˇzenosti algoritama. Propozicija 4.3 Ako je a < b, onda je na ≺ nb .
ˇ 4.2. SLOZENOST ALGORITAMA
136 Dokaz. Vrijedi da je
na 1 = lim b−a b n→∞ n n→∞ n No, kako je b − a > 1, onda je lim
na 1 = lim b−a = 0 b n→∞ n n→∞ n lim
Sada prema teoremu 4.1 slijedi da je na ≺ nb . Sljede´ce propozicije se odnose na logaritme i njihove odnose s potencijama. Propozicija 4.4 Za svaka dva broja a, b ∈ N\{1} vrijedi da je loga n ∼ logb n. Dokaz. Poznato je da za logaritme po razliˇcitim bazama a, b ∈ N\{1} vrijedi loga n =
logb n logb a
Stavimo li c = log1b a , imamo loga n = c · logb n, odnosno c · logb n ≤ loga n ≤ c · logb n ˇsto daje traˇzenu tvrdnju. Ova propozicija nam govori da logaritmi po svim bazama asimptotski jednako brzo rastu. Stoga se ˇcesto, pri ocjeni sloˇzenosti algoritma, baza logaritma zanemaruje i piˇse se lg n, ˇsto znaˇci ”logaritam od n po proizvoljnoj bazi”. Propozicija 4.5 Neka je a ∈ N0 . Tada vrijedi da je na ≺ na · lgb n ≺ na+1 Dokaz. Jasno je da vrijedi na · lgb n lgb n . = lim n→∞ n→∞ n na+1 lim
Primijenimo li L’Hospitalovo pravilo na posljednji limes dobit ´cemo na · lgb n n→∞ na+1 lim
· lgb−1 n n→∞ 1 c · b · lgb−1 n = lim , n→∞ n =
lim
c·b·
1 n
pri ˇcemu konstanta c ovisi o bazi logaritama. Nakon b primjena L’Hospitalovog pravila dobija se na · lgb n cb · b! = lim =0 n→∞ n→∞ n na+1 lim
Dakle,
POGLAVLJE 4. ALGORITMI
137
na · lg n 1 = lim c · = 0 n→∞ na+1 n→∞ n a a+1 odakle slijedi n · lg n ≺ n . Druga se tvrdnja pokazuje sliˇcno. Dokaz provedite sami. Iz gornje propozicije izlazi sljede´ci korolar: lim
Korolar 4.3 lg n = o(n). Uoˇcimo iz gornjeg korolara da logaritmi asimptotski rastu sporije od linearne funkcije. Na kraju ´cemo dati propoziciju, koja u ovaj kontekst stavlja eksponencijalne funkcije. Propozicija 4.6 Neka su a ∈ N i neka je b ∈ N\{1}. Tada je na ≺ bn Dokaz. Primijenimo li na limes bn n→∞ na a puta L’Hospitalovo pravilo, dobivamo lim
na a! =0 = lim n n n→∞ b n→∞ b · lna b lim
Iz ˇcega, prema teoremu 4.1, slijedi tvrdnja propozicije. Ova propozicija je vrlo vaˇzna i u svom iskazu daje jednu vrlo ˇcesto spominjanu tvrdnju, kako u teoriji algoritama, tako i u drugim matematiˇckim disciplinama: tvrdnju da eksponencijalna funkcija raste brˇze od bilo koje polinomne funkcije. Propozicija 4.7 Neka su a, b ∈ N\{1}, pri ˇcemu je a < b. Tada je an ≺ bn . Dokaz. Kako je 0 <
a b
< 1, slijedi da je ³ a ´n an =0 = lim n→∞ bn n→∞ b lim
pa po teoremu 4.1 vrijedi an = o(bn ). I na kraju, dolazi teorem koji opisuje joˇs neka vaˇzna svojstva uvedenih asimptotskih ocjena funkcija Teorem 4.2 Za opisane ocjene sloˇzenosti rasta funkcije vrijede sljede´ca svojstva: 1. Tranzitivnost: (a) Ako je f (n) = O(g(n)) i g(n) = O(h(n)) onda je i f (n) = O(h(n)).
ˇ 4.2. SLOZENOST ALGORITAMA
138
(b) Ako je f (n) = o(g(n)) i g(n) = o(h(n)) onda je i f (n) = o(h(n)). (c) Ako je f (n) = Ω(g(n)) i g(n) = Ω(h(n)) onda je i f (n) = Ω(h(n)). (d) Ako je f (n) = ω(g(n)) i g(n) = ω(h(n)) onda je i f (n) = ω(h(n)). (e) Ako je f (n) = Θ(g(n)) i g(n) = Θ(h(n)) onda je i f (n) = Θ(h(n)). 2. Refleksivnost: (a) f (n) = O(f (n)) (b) f (n) = Ω(f (n)) (c) f (n) = Θ(f (n)) 3. Simetriˇ cnost: (a) Ako je f (n) = Θ(g(n)) onda je i g(n) = Θ(f (n)). Dokaz. Dokaz izvedite sami. Zadatak 4.2 Pokaˇzite da 1. je Θ relacija ekvivalencije na skupu funkcija f R → R. 2. su O i Ω relacije totalnog uredaja na skupu funkcija f : R → R. Zadatak 4.3 Dokaˇzite sljede´ce tvrdnje: 1. max{f (n), g(n)} = Θ(f (n) + g(n)). 2. Za a ∈ R, b ∈ R+ vrijedi (n + a)b = Θ(nb ). Sada kad smo razvili aparat za ocjenjivanje sloˇzenosti algoritama, primijenimo taj aparat na Euklidov algoritam, koji je opisan u prethodnom poglavlju. Primjer 4.1 Izraˇcunajmo sloˇzenost Euklidovog algoritma u najgorem sluˇcaju. Za brojeve a i b izraˇcuna se ostatak od dijeljenja a mod b te se algoritam ponavlja za brojeve b u a mod b sve dok ne bude b = 0. Jasno je da je a mod b < b, ali da je a mod b ≥ 0. Koraci od 2 do 4 Euklidovog algoritma ˇcine petlju. Ve´c smo ranije uoˇcili da se ta petlja moˇze izvesti najviˇse b-puta. Pogledajmo ˇsto se dogada u jednom koraku te petlje. Izraˇcunava se a mod b i upisuje u r. Vrijednost varijable b se upisuje u a, a vrijednost varijable r u b. Na kraju se provjerava je li b = 0, te ako nije, vra´ca se na korak 2. Sve to, ˇsto smo opisali moˇze se izvesti u konstantnom vremenu c1 . Posljednji se korak algoritma izvodi toˇcno jednom, a njegova je sloˇzenost konstantna, recimo c2 . Ako duljinu ulaza definiramo kao duljinu manjeg od dvaju ulaznih brojeva, imat ´cemo:
POGLAVLJE 4. ALGORITMI
139
Euklid Tmax (n) = qc · n + c2 ,
odnosno Euklid Tmax (n) = Θ(n).
4.3
Pretraˇ zivanje i sortiranje
Pretraˇzivanje i sortiranje nizova elemenata su medu najznaˇcajnijim postupcima u modernom raˇcunarstvu. Tim problemima posve´cene su mnoge knjige. Postoji nekoliko razloga tome. Kao prvo, i pretraˇzivanje i sortiranje su problemi toliko raˇsireni u raˇcunarstvu da gotovo da i nema raˇcunalnog programa u primjeni koji u nekom svom dijelu ne sortira podatke ili ih ne pretraˇzuje. Drugo, sortiranje je problem koji je dovoljno jednostavan i jasan da se moˇze uzeti kao model za objaˇsnjavanje metoda izrade algoritama. Nadalje, postoji ˇcitav niz detaljno razradenih algoritama sortiranja, koji se koriste razliˇcitim metodama izrade algoritama. Ovaj je problem pogodan i za objaˇsnjavanje raˇcunanja donje mede sloˇzenosti problema, jer mu se moˇze odrediti netrivijalna donja meda.
4.3.1
Pretraˇ zivanje
Problem pretraˇzivanja moˇze se zadati na sljede´ci naˇcin: Problem 4.1 ULAZ: Niz brojeva A = a1 , . . . , an i broj x. IZLAZ: DA ako je x ∈ A, NE ako x 6∈ A. Slijedno pretraˇ zivanje Prvi algoritam pretraˇzivanja je ujedno i najjednostavniji oblik pretraˇzivanja neuredene liste. Algoritam redom usporeduje elemente liste sa zadanom vrijednoˇs´cu. Ako je neki od elemenata jednak traˇzenom, algoritam staje i odgovara da je naˇsao traˇzenu vrijednost. U suprotnom, algoritam prolazi kroz cijelu listu do kraja i odgovara da nije pronaˇsao zadanu vrijednost. Algoritam 4.5 ULAZ: Zadana vrijednost x, lista a1 , . . . , an IZLAZ: Da ako vrijednost x postoji u listi, a ne u suprotnom. 1. i := 1. 2. ako je i > n onda odgovori ne i stani. 3. Ako je ai = x odgovori da i stani.
140
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
4. i := i + 1. 5. Idi na 2. Jasno je da ´ce ovaj algoritam stati nakon najviˇse n prolaza kroz korake od 2 do 5. Isto tako je oˇcito da ´ce algoritam vratiti da ako traˇzena vrijednost postoji u listi, dok ´ce u suprotnom vratiti ne. Pogledajmo sada sloˇzenost ovog algoritma. U najgorem sluˇcaju, kada traˇzene vrijednosti nema u listi, ovaj algoritam ima n prolaza kroz korake od 2 do 5, a u (n + 1)-vom prolazu stane u koraku 2. Svi koraci ovog algoritma su konstantnog trajanja, odnosno za njih je potreban konstantan broj procesorskih otkucaja. Dakle, sloˇzenost ovog algoritma moˇze se opisati sljede´com formulom: search Tmax (n) = c1 + n · c2 + c3 .
Pri tome je c1 vrijeme trajanja prvog koraka algoritma, c2 ukupno vrijeme trajanja koraka 2 do 5, a c3 vrijeme trajanja koraka 2. Dakle, search Tmax (n) = Θ(n).
Pogledajmo kako ovaj algoritam radi kada traˇzena vrijednost postoji u listi. U tom sluˇcaju, za algoritam je najgore da vrijednost bude na posljednjem mjestu u listi. Tada se koraci 2 i 3 izvrˇsavaju n puta, a koraci 4 i 5 n − 1 puta. U tom je sluˇcaju search Tmax (n) = c1 + n · c2 + (n − 1) · c3
= c1 − c3 + n · (c2 + c3 ) = Θ(n) pri ˇcemu je c1 trajanje prvog koraka, c2 trajanje koraka 2 i 3 zajedno, a c3 trajanje koraka 4 i 5 zajedno. Najbolji je sluˇcaj kada se element nalazi na prvom mjestu u listi. Tada se koraci 1 do 3 izvrˇsavaju toˇcno jednom, a koraci 4 i 5 nijednom. Sloˇzenost je u najboljem sluˇcaju search Tmin (n) = c1 = Θ(1).
Pogledajmo joˇs i prosjeˇcni sluˇcaj kada se element nalazi u listi. Pretpostavljamo da je vjerojatnost da se traˇzeni element nalazi na bilo kojem mjestu u listi jednaka i iznosi n1 , odnosno, distribucija elemenata je uniformna. Ako se element nalazi na i-tom mjestu u listi 1 ≤ i ≤ n, onda se korak 1 izvrˇsava jednom, koraci 2 i 3 i puta, a koraci 4 i 5 i − 1 puta. Stoga imamo:
POGLAVLJE 4. ALGORITMI
search Tavg (n) = c1 +
141
n X 1 · [i · c2 + (i − 1) · c3 ] n i=1
n
n−1
i=1
i=0
X 1 X i] i + c3 = c1 + [c2 n 1 n(n + 1) (n − 1)n = c1 + [c2 + c3 ] n 2 2 c3 c2 · (n + 1) + + · (n − 1) = c1 + 2 2 c2 c3 c2 c3 = c1 + − + ( + ) · n = Θ(n). 2 2 2 2 Ako je lista neuredena, bolje od ovog algoritma se ne moˇze. Ako su, medutim, elementi u listi uredeni po veliˇcini, onda se moˇze prona´ci bolji algoritam za odredivanje postojanja neke vrijednosti u listi. Binarno pretraˇ zivanje Pretpostavimo da je zadana sortirana lista, tj. lista u kojoj su elementi poredani od najmanjeg do najve´ceg. Pretraˇzivanje koje se u tom sluˇcaju moˇze koristiti, naziva se binarno pretraˇzivanje. Uredenost liste omogu´cuje da se ne pregledavaju svi elementi liste, ve´c samo neki od njih. Prvo usporedujemo zadanu vrijednost s elementom koji se nalazi u sredini liste (ili otprilike u sredini, ako lista ima paran broj elemenata). Ako je taj element jednak traˇzenoj vrijednosti, onda zavrˇsavamo s pretraˇzivanjem. Ako nije tako, onda se gleda je li vrijednost srednjeg elementa liste ve´ca ili manja od traˇzene. Ako je vrijednost ve´ca od traˇzene, onda se traˇzeni element, ukoliko se nalazi u listi, mora nalaziti u njenoj prvoj polovici. Ako je srednji element manji od traˇzenog, onda traˇzeni element, ukoliko se nalazi u listi, mora biti u drugoj polovici liste. U drugom se koraku uzima polovica liste u kojoj se moˇze nalaziti traˇzeni element i na njoj se primjenjuje binarno pretraˇzivanje. Tako se lista smanjuje dok se ne dode do jednoˇclane liste, u kojoj se izravno provjerava sadrˇzi li njen element traˇzenu vrijednost ili ne. Formalno, algoritam izgleda ovako: Algoritam 4.6 (Binarno pretraˇ zivanje) binsearch(f, l, x, a) ULAZ: Kursor f na poˇcetak liste, kursor l na kraj liste i traˇzena vrijednost x, lista a1 , . . . , an . IZLAZ: Da ako vrijednost x postoji u listi, a ne u suprotnom. 1. p := b f +l 2 c. 2. Ako je ap = x vrati da i stani.
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
142
3. Ako je ap > x i ako je p > f onda pozovi binsearch(f, p − 1, x, a). 4. Ako je ap < x i ako je p < l onda pozovi binsearch(p + 1, l, x, a). 5. Vrati ne i stani. Ovakvi algoritmi koji svode problem na jedan ili viˇse problema istog tipa, ali manje dimenzije nazivaju se podijeli pa ovladaj (engl. divide and conquer) algoritmi. Podijeli pa ovladaj je vrlo efikasna metoda, koja najˇceˇs´ce daje vrlo efikasne algoritme. Propozicija 4.8 Binarno pretraˇzivanje je korektan algoritam za pretraˇzivanje sortirane liste. Dokaz. Treba dokazati da ´ce algoritam uvijek stati, te da ´ce vratiti ispravan odgovor. Pretpostavimo da x nije u listi. Tada algoritam sigurno ne´ce stati u koraku 2. No kod svakog novog poziva funkcije binsearch, njoj se smanji parametar f ili joj se pove´ca parametar l. Tako da je nakon konaˇcno mnogo prolaza sigurno l − f ≤ 1. No, kada se to dogodi, ne´ce biti zadovoljen uvjet izvrˇsavanja ni koraka 3, ni koraka 4, pa ´ce se izvrˇsiti korak 5 i algoritam ´ce stati s ispravnim odgovorom. Pretpostavimo da se x nalazi u listi. Primijetimo da je kod svakog poziva funkcije binsearch uvijek af ≤ x ≤ al . Drugim rijeˇcima, element koji ima vrijednost x je uvijek izmedu af i al . No, zbog pribliˇzavanja vrijednosti f i l u svakom prolazu, na kraju ´ce postati ap = x i algoritam ´ce stati u koraku 2 i to s ispravnim odgovorom. Odredimo sada sloˇzenost ovog algoritma. Neka je n duljina liste koja se promatra. Ako je n = 1, onda ´ce se, sadrˇzi li lista vrijednost x, izvrˇsiti samo koraci 1 i 2. Ne sadrˇzi li lista vrijednost x, izvrˇsit ´ce se korak 1, provjerit ´ce se uvjeti koraka od 2 do 4 i na kraju ´ce se izvrˇsiti korak 5. Kako su sve operacije u svim koracima elementarne, sloˇzenost je svakog koraka konstantna. Odavde zakljuˇcujemo da je binsearch binsearch Tmax (1) = Tmin (1) = Θ(1).
No, onda je i binsearch Tavg (1) = Θ(1).
Pretpostavimo sada najgori sluˇcaj za ve´ce n-ove. Najgore je za algoritam kada se vrijednost x ne nalazi u listi. U tom sluˇcaju se izvrˇsava korak 1, provjerava se uvjet koraka 2, te se izvrˇsava korak 3 ili 4. Primijetimo da ´ce sloˇzenost biti neˇsto manja ako se izvrˇsi korak 3, jer se onda provjerava samo uvjet tog koraka, dok se u suprotnom provjerava uvjet koraka 3, ali i koraka 4. No, ovdje se radi o dodatnom konstantnom vremenu, pa to ne´ce
POGLAVLJE 4. ALGORITMI
143
utjecati na ocjenu sloˇzenosti ovog algoritma. Dakle, moˇzemo zakljuˇciti da je sloˇzenost binarnog pretraˇzivanja dana sa: binsearch binsearch n Tmax (n) ≤ c1 + Tmax (b c) 2 Rekurzija koju trebamo rijeˇsiti glasi:
tn = t n2 + c1 . To je podijeli pa ovladaj rekurzija. Ona se rjeˇsava tako da se stavi supstitucija an = t2n . Sada je an = t2n = t 2n + c1 = t2n−1 + c1 = an−1 + c1 . 2
Izvrˇsi se homogenizacija an an−1 an − an−1
= = =
an−1 + c1 an−2 + c1 an−1 − an−2 ,
ˇcime se dobiva homogena rekurzija an = 2an−1 − an−2 . Karakteristiˇcna jednadˇzba posljednje rekurzije je x2 − 2x + 1 = 0. Ona ima dvostruki korijen x1,2 = 1, pa je op´ce rjeˇsenje rekurzije dano sa an = C1 · 1n + C2 · n · 1n ., odnosno, t2n = C1 + C2 · n. Iz posljednjega slijedi da je binsearch Tmax (n) = tn = C1 + C2 · log2 n.
Drugim rijeˇcima, binsearch Tmax (n) = O(lg n).
Prosjeˇcnu ´cemo sloˇzenost izraˇcunavati samo za sluˇcaj kada se element nalazi u listi. Jasno je da, ako se element ne nalazi u listi sloˇzenost iznosi Θ(lg n).
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
144
Neka lista ima n elemenata. Bez smanjenja op´cenitosti moˇzemo pretpostaviti da je n = 2k − 1. Ovo je vaˇzno samo zato da osiguramo da u svakom koraku niz ima srednji element. U prvom koraku algoritma pregledavamo srednji element. Ako je traˇzeni element jednak srednjem, onda ´ce algoritam zavrˇsiti u jednom koraku. Sljede´ca dva elementa: onaj koji se nalazi na ˇcetvrtini liste i onaj koji se nalazi na tri ˇcetvrtine liste, moˇzemo na´ci u dva koraka. Nadalje, imamo 4 elementa koja nalazimo u tri koraka, itd. Dakle, imamo sluˇcajnu varijablu µ X=
binsearch Tavg (k)
1
2
1 n
2 n
... ...
¶
k 2k−1 n
= EX · c1 = c1
k X
.
i·
i=1
=
2k
c1 −1
k X
2i−1 2k − 1
i · 2i−1 .
i=1
Pogledajmo na trenutak neˇsto op´cenitiju sumu niza: R(x) =
k X
i · xi−1 .
i=1
Formalno integriramo ovaj red i dobivamo: Z R(x) =
k X
xi =
i=1
xk+1 − 1 . x−1
Sada to natrag formalno deriviramo i dobivamo R(x) =
k · xk+1 − (k + 1) · xk + 1 . (x − 1)2
(4.2)
Uvrstimo li (4.2) u (4.2), dobit ´cemo: c1 k · 2k+1 − (k + 1) · 2k + 1 12 2k − 1 (k − 1) · 2k + 1 = c1 · 2k − 1 · ¸ k = c1 (k − 1) + k . 2 −1
binsearch Tavg (k) =
Iz (4.3) i definicije broja k slijedi da je
(4.3)
POGLAVLJE 4. ALGORITMI
145 ·
binsearch Tavg (n)
¸ lg n = c1 · lg(n − 1) + . n−1
Konaˇcno, binsearch Tavg (n) = Θ(lg n).
I na kraju, potrebno je izraˇcunati sloˇzenost binarnog pretraˇzivanja u najboljem sluˇcaju. Najbolji je sluˇcaj kada se traˇzeni element nalazi toˇcno u sredini liste. Tada se on pronalazi u toˇcno jednom koraku, pa je binsearch Tmin (n) = Θ(1).
4.3.2
Sortiranje
Preduvjet koji lista mora zadovoljiti da bi se na njoj moglo primijeniti binarno pretraˇzivanje jest da lista bude sortirana. To nije jedini algoritam i jedina situacija koja zahtjeva sortiranu listu. Zapravo, sortiranje je jedna od najˇceˇs´cih operacija koje raˇcunalo izvodi. Stoga nije ˇcudno da je problemu sortiranja posve´cena posebna paˇznja u teoriji algoritama. Ovdje ´cemo opisati nekoliko razliˇcitih algoritama sortiranja i usporediti njihovu sloˇzenost. Sortiranje izborom Prvi, vrlo jednostavan algoritam sortiranja je sortiranje izborom (engl. selection sort) . Algoritam radi sljede´ce: u listi se pronalazi najmanji element i on mijenja mjesto s prvim elementom u listi. Nakon toga, prvi ´ce sadrˇzavati onu vrijednost koju ´ce sadrˇzavati u konaˇcnoj, sortiranoj listi, tj. najmanju vrijednost u listi. Sada se isti postupak ponavlja za preostale elemente, osim prvog. Drugim rijeˇcima, postupak se ponavlja za elemente od drugog do posljednjeg. U svakom sljede´cem prolazu se dio liste koji treba obraditi smanjuje za jedan element. Zbog toga, ako je lista dugaˇcka n elemenata, onda ´ce, nakon n − 1 prolaza, ovaj algoritam sortirati listu. Primjer 4.2 Sortirajmo listu 7
3
5
1
8
4
2
9
6
4
2
9
6
4
2
9
6
Najmanji element je onaj s vrijednoˇs´cu 1. 7
3
5
1
8
Zamijenimo ga s prvim elementom 1
3
5
7
8
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
146
U ostatku element s najmanjom vrijednoˇs´cu je onaj s vrijednoˇs´cu 2. 1
3
5
7
8
4
2
9
6
1
2
5
7
8
4
3
9
6
1
2
5
7
8
4
3
9
6
1
2
3
7
8
4
5
9
6
1
2
3
7
8
4
5
9
6
1
2
3
4
8
7
5
9
6
1
2
3
4
8
7
5
9
6
1
2
3
4
5
7
8
9
6
1
2
3
4
5
7
8
9
6
1
2
3
4
5
6
8
9
7
1
2
3
4
5
6
8
9
7
1
2
3
4
5
6
7
9
8
1
2
3
4
5
6
7
9
8
1
2
3
4
5
6
7
8
9
Zapiˇsimo ovaj algoritam formalno: Algoritam 4.7 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista koja se sastoji od istih elemenata kao i ulazna lista. 1. Za i := 1, . . . , n − 1 radi korake 2-5. 2. min := i. 3. Za j := 2, . . . , n radi korak 4. 4. Ako je (aj < ai ) min := j. 5. swap(ai , amin ).
POGLAVLJE 4. ALGORITMI
147
Jasno je da se koraci 1, 2 i 5 ponavljaju toˇcno n − 1 puta, bez obzira na instancu problema. Koraci 3 i 4 se u svakom prolazu ponavljaju razliˇcit broj puta - u prvom prolazu n − 1 puta, u drugom n − 2 puta, itd. Jedina je razlika medu razliˇcitim instancama problema u tome koliko ´ce se puta izvesti pridruˇzivanje vrijednosti varijabli min u koraku 4. Najgori je sluˇcaj kada je uvjet u koraku 4 uvijek ispunjen. Treba napomenuti da se ovdje radi o hipotetiˇckom najgorem sluˇcaju te da on nije izvediv za liste ve´ce od 2 elementa, jer ne postoji takva instanca za koju bi uvjet u koraku 4 uvijek bio ispunjen. Imamo
SelectionSort Tmax (n) = c1 · n +
n−1 X
c2 · i
i=1
n · (n − 1) = c1 · n + c2 · 2 c2 2 c2 ·n , = (c1 − ) · n + 2 2 odnosno SelectionSort Tmax (n) = O(n2 ).
U najboljem se sluˇcaju, pridruˇzivanje u koraku 4 ne´ce izvrˇsiti nikad. Taj sluˇcaj je realan sluˇcaj, kada je lista ve´c unaprijed sortirana. Tada je
SelectionSort Tmin (n) = c1 · n +
n−1 X
c2 · i
i=1
= (c1 −
c2 2 c2 )·n+ ·n , 2 2
odnosno SelectionSort Tmin (n) = O(n2 ).
Kako prosjeˇcna sloˇzenost mora biti izmedu najbolje i najgore, zakljuˇcujemo da je SelectionSort Tavg (n) = O(n2 ).
Jednostavno sortiranje zamjenom Sortiranje zamjenom (engl. simple exchange sort) je joˇs jedan od osnovnih algoritama sortiranja. Sortiranje se vrˇsi tako da se usporeduje prvi element niza sa svakim iza njega. Kada se naide na element u listi koji je manji od prvog, zamjenjuje mu se mjesto s prvim. Sada se nastavljaju usporedivati
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
148
preostali elementi s novim prvim elementom u listi. Nakon prvog prolaza kroz listu, u prvom ´ce se elementu liste nalaziti najmanja vrijednost u listi. Nakon toga, postupak se ponavlja za drugi element liste i tako redom. U svakom koraku se jedna vrijednost postavlja u element liste na kojem ´ce se nalaziti i u izlaznoj, sortiranoj listi, pa ´ce se algoritam zavrˇsiti nakon (n − 1)-og koraka. Primjer 4.3 Opet sortirajmo istu listu: 7
3
5
1
8
4
2
9
6
9
6
Najprije prvi i drugi element mijenjaju mjesta. 3
7
5
1
8
4
2
Sada se pretraˇzuje dalje i dode se do ˇcetvrtog elementa, koji mijenja mjesto s prvim: 1
7
5
3
8
4
2
9
6
Svi daljnji elementi su manji od prvog, pa u prvom prolazu viˇse nemamo ˇsto mijenjati. 1
7
5
3
8
4
2
9
6
Sada se usporeduju elementi s drugim elementom liste. Odmah nalazimo da je tre´ci element manji od drugog, pa im mijenjamo mjesta: 1
5
7
3
8
4
2
9
6
Daljnji koraci su: 1
3
7
5
8
4
2
9
6
1
2
7
5
8
4
3
9
6
1
2
5
7
8
4
3
9
6
1
2
4
7
8
5
3
9
6
1
2
3
7
8
5
4
9
6
1
2
3
5
8
7
4
9
6
1
2
3
4
8
7
5
9
6
POGLAVLJE 4. ALGORITMI
149
1
2
3
4
5
7
8
9
6
1
2
3
4
5
6
8
9
7
1
2
3
4
5
6
7
9
8
1
2
3
4
5
6
7
8
9
Formalno, ovaj algoritam moˇzemo opisati na sljede´ci naˇcin: Algoritam 4.8 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista koja se sastoji od istih elemenata kao i ulazna lista. 1. Za i := 1, . . . , n − 1 radi korake od 2 do 3. 2. Za j := i + 1, . . . , n radi korak 3. 3. Ako je ai > aj onda swap(ai , aj ). Ocijenimo sloˇzenost ovog algoritma. U svakom sluˇcaju, vanjska se petlja izvodi toˇcno n−1 puta. Unutarnja se petlja u prvom prolazu izvodi toˇcno n− 1 puta, u drugom n − 2 puta, u tre´cem n − 3 puta itd. U svakom izvrˇsavanju unutraˇsnje petlje izvede se provjera uvjeta, te ako je uvjet ispunjen, onda se elementima zamijene mjesta. U najgorem sluˇcaju, kada je lista na poˇcetku obrnuto sortirana, uvjet ´ce uvijek biti zadovoljen. Neka kontrola vanjske petlje ima sloˇzenost c1 , neka kontrola unutarnje petlje, zajedno s provjerom uvjeta i zamjenom mjesta elementima ima sloˇzenost c2 . Tada je, u najgorem sluˇcaju, sloˇzenost jednaka:
ExchangeSort Tmax = (n − 1) · c1 +
i−1 X
i · c2
i=1
= (n − 1) · c1 + c2 ·
i−1 X
i
i=1
n · (n + 1) = (n − 1) · c1 + c2 · 2 c2 2 c2 = · n + (c1 + ) · n − c1 , 2 2 iz ˇcega slijedi da je ExchangeSort Tmax = Θ(n2 ).
(4.4)
U najboljem sluˇcaju, kada je lista unaprijed sortirana, uvjet u koraku 3 se nikada ne ispunjava, pa nema ni jedne zamjene mjesta. Neka je sa c3
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
150
oznaˇceno trajanje kontrole unutarnje petlje zajedno s provjerom uvjeta u koraku 3. Tada je ExchangeSort Tmax
= (n − 1) · c1 +
i−1 X
i · c3 ,
i=1
ˇsto sliˇcno gornjem raˇcunu daje ExchangeSort Tmin = Θ(n2 ).
(4.5)
Kako su maksimalna i minimalna sloˇzenost ovog algoritma asimptotski jednake, slijedi da je i ExchangeSort Tavg = Θ(n2 ).
(4.6)
Sortiranje umetanjem Sortiranje umetanjem (engl. insertion sort) je joˇs jedan od osnovnih algoritama sortiranja. Ovaj se algoritam temelji na ideji dijeljenja liste na dva dijela: prvi koji je ve´c sortiran i drugi koji tek treba sortirati. Na poˇcetku se u prvom dijelu nalazi samo prvi element liste. U svakom se sljede´cem koraku uzima prvi element iz drugog dijela liste i ume´ce se na odgovaraju´ce mjesto u prvom dijelu. U prvom se koraku uzima drugi element liste te se usporeduje s prvim elementom. Ako je drugi element manji od prvoga, onda prvi i drugi element mijenjaju mjesta. Nakon toga se uzima tre´ci element, koji se usporeduje s drugim. Ako je manji, onda drugi element prelazi na tre´ce mjesto, a promatrani se element usporeduje s prvim. Ako je ve´ci od prvog, onda se ume´ce na drugo mjesto, a ako je manji, onda se prvi element pomiˇce na drugo mjesto, a promatrani dolazi na prvo mjesto. Isti se postupak ponavlja za ˇcetvrti element liste i tako redom. Za svaki se element promatra sortirani dio liste. Elementi sortiranog dijela liste usporeduju se od zadnjeg prema prvome, s promatranim elementom, te se elementi ve´ci od promatranog pomiˇcu za jedno mjesto dalje u listi. Kada se naide na element manji od promatranog, onda se promatrani element stavlja iza njega s kojeg je ve´c prije toga element pomaknut za jedno mjesto dalje. Tako se sortirani dio liste pove´cava za jedan element i moˇze se prije´ci na sljede´ci element liste. Kada se svi elementi liste obrade na ovaj naˇcin, cijela ´ce lista biti sortirana. Primjer 4.4 Sortirajmo listu 7
3
5
1
8
4
2
9
6
U prvom koraku prva dva elementa mijenjaju mjesta i dobijamo: 3
7
5
1
8
4
2
9
6
POGLAVLJE 4. ALGORITMI
151
U sljede´cem koraku pretraˇzujemo prva dva elementa traˇze´ci onaj koji ima ve´cu vrijednost od 5, a to je drugi element. Njega pomiˇcemo za jedno mjesto dalje a na njegovo mjesto dolazi tre´ci element. 3
5
3
5
7
1
8
4
2
9
6
1
8
4
2
9
6
ˇ Cetvrti element ima vrijednost 1 i on dolazi na poˇcetak liste, a svi se elementi prije njega pomiˇcu za jedan element udesno: 1
5
7
8
4
2
9
6
1
3
7
8
4
2
9
6
1
3
5
8
4
2
9
6
1
3
5
8
4
2
9
6
4
2
9
6
7
Sljede´ci element ostaje na svom mjestu: 1
3
5
7
8
Prva dva elementa su manja od 4, pa ostaju gdje jesu, dok se ostali elementi pomiˇcu za jedno mjesto udesno. 1
3
4
7
8
2
9
6
1
3
4
5
8
2
9
6
1
3
4
5
7
2
9
6
1
3
4
5
7
2
9
6
8
Sljede´ci element ide na drugo mjesto u listi. 1
2
4
5
7
8
9
6
1
2
3
5
7
8
9
6
1
2
3
4
7
8
9
6
1
2
3
4
5
8
9
6
1
2
3
4
5
7
9
6
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
152 1
2
3
4
5
7
8
9
6
7
8
9
6
Sljede´ci element ostaje na svom mjestu. 1
2
3
4
5
Posljednji element ide na ˇsesto mjesto u listi. 1
2
3
4
5
6
8
9
1
2
3
4
5
6
7
9
1
2
3
4
5
6
7
8
1
2
3
4
5
6
7
8
9
Algoritam 4.9 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista, koja se sastoji od istih elemenata kao i ulazna lista. 1. Izvrˇsi korake 2-4 za j := 2, . . . , n. 2. p := aj . 3. Izvrˇsi korak 4 za i := 1, . . . , j − 1. 4. Ako je ai > aj onda swap(ai , aj ). Pogledajmo sloˇzenost ovog algoritma. U svakom sluˇcaju koraci 1 i 2 izvrˇsavaju se n − 1 puta, a svaki od njih ima konstantno trajanje. Broj prolaza kroz korake 3 i 4 pove´cava se za svaki prolaz kroz korake 1 i 2. Najgori je sluˇcaj obrnuto sortirana lista. Onda se izvrˇsava maksimalan broj zamjena elemenata. U tom ´ce sluˇcaju uvjet iz 4 uvijek biti zadovoljen. U tom sluˇcaju je sloˇzenost inssort Tmax (n) = c1 · n +
n−1 X
c2 · i = c1 · n + c2 ·
i=1
c2 c2 (n − 1)n = (c1 − ) · n + · n2 . 2 2 2
Dakle, inssort Tmax (n) = Θ(n2 ).
Sliˇcno, ako je lista ve´c sortirana, onda ´ce svaki puta uvjet iz koraka 4 biti neistinit, pa se ne´ce izvrˇsiti nijedno mijenjanje mjesta. No, sve ostale operacije ´ce se izvrˇsavati. Stoga ´ce biti inssort Tmin (n) = Θ(n2 ).
No, u tom je sluˇcaju i inssort Tavg (n) = Θ(n2 ).
POGLAVLJE 4. ALGORITMI
153
Mjehuriˇ casto sortiranje U mjehuriˇcastom sortiranju (engl. bubble sort) prolazi se redom po elementima liste i svaki se od njih usporeduje sa svojim sljedbenikom. Ako je neki element ve´ci od sljedbenika, onda im se zamjenjuju mjesta. Nakon prvog prolaza na kraj liste ”isplivat” ´ce najve´ca vrijednost. Nakon toga se isti postupak ponavlja za prvih n − 1 elemenata, pa ´ce nakon prolaza kroz listu u predposljednji element do´ci druga najve´ca vrijednost. Tako ´ce nakon n − 1 prolaza lista biti sortirana. Primjer 4.5 Opet sortirajmo istu listu: 7
3
5
1
8
4
2
9
6
Prvo mjenjaju mjesta prvi i drugi element. 3
7
5
1
8
4
2
9
6
5
7
1
8
4
2
9
6
5
1
7
8
4
2
9
6
Nakon toga drugi i tre´ci, 3 pa tre´ci i ˇcetvrti. 3
ˇ Cetvrti i peti element ne mijenjanju mjesta, ve´c mjesta mijenjaju peti i ˇsesti element. 3
5
1
7
4
8
2
9
6
9
6
Nakon toga, mjesta mijenjaju ˇsesti i sedmi element: 3
5
1
7
4
2
8
Sedmi i osmi element ne mijenjaju mjesta, ve´c samo osmi i deveti. 3
5
1
7
4
2
8
6
9
Time je zavrˇsen prvi prolaz kroz listu i na posljednjem se mjestu nalazi najve´ca vrijednost. Sada se postupak ponavlja za prvih n − 1 elemenata. Mijenjaju se drugi i tre´ci element, 3
1
5
7
4
2
8
6
9
8
6
9
pa ˇcetvrti i peti, a nakon toga peti i ˇsesti. 3
1
5
4
2
7
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
154
Na kraju ovog koraka mijenjaju se sedmi i osmi element 3
1
5
4
2
7
6
8
9
U sljede´cem se prolazu obraduje prvih sedam elemenata Mijenja se prvi i drugi, 1
3
5
4
2
7
6
8
9
7
6
8
9
pa tre´ci i ˇcetvrti te ˇcetvrti i peti element. 1
3
4
2
5
Na kraju ovog koraka se mijenjaju ˇsesti i sedmi element. 1
3
4
2
5
6
7
8
9
U sljede´cem se prolazu mijenjaju samo tre´ci i ˇcetvrti element. 1
3
2
4
5
6
7
8
9
Sada se promatra prvih pet elemenata liste, no u ovom se prolazu mijenjaju samo drugi i tre´ci element. 1
3
2
4
5
6
7
8
9
U sljede´cem se prolazu promatraju prva ˇcetiri elementa liste, no mijenjaju se samo drugi i tre´ci. 1
2
3
4
5
6
7
8
9
Iako smo time dobili sortiranu listu, algoritam ´ce izvesti joˇs dva prolaza kroz listu, za prva tri te za prva dva elementa liste. Algoritam 4.10 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista, koja se sastoji od istih elemenata kao i ulazna lista. 1. Ponavljaj korake 2-3 za i = 1, . . . , n − 1. 2. Ponavljaj korak 3 za j = 1, . . . , n − i. 3. Ako je aj > aj+1 onda swap(aj , aj+1 ).
POGLAVLJE 4. ALGORITMI
155
Neka je ak najve´ci element u listi. Kada algoritam naide u prvom prolazu na taj element, on ´ce biti ve´ci od svakog sljede´ceg elementa u listi, pa ´ce s njime mijenjati mjesta. Na kraju prolaza, taj ´ce element biti na kraju liste. U drugom ´ce se koraku na isti naˇcin na pretposljednjem mjestu na´ci drugi najve´ci element i tako redom. To dokazuje da je ovaj algoritam korektan. Ocijenimo sada njegovu sloˇzenost. Bez obzira kako izgleda instanca problema, korak 1 ´ce se ponavljati n − 1 puta. U prvom ´ce se prolazu koraci 2 i 3 ponavljati n − 1 puta, a u svakom ´ce sljede´cem prolazu njihov broj ponavljanja biti za jedan manji. Najgori je sluˇcaj kada je uvjet iz koraka 3 uvijek ispunjen (kada je lista na poˇcetku obrnuto sortirana). U tom ´ce se sluˇcaju svaki puta izvrˇsavati naredba swap. Najbolji je sluˇcaj kada ovaj uvjet nije ispunjen ni jednom (kada je lista na poˇcetku ve´c bila sortirana). Tada se naredba swap ne´ce izvrˇsiti ni jednom, no broj provjera uvjeta u tom koraku ne´ce se promijeniti. Iz toga zakljuˇcujemo da ´ce najgori i najbolji sluˇcaj za ovaj algoritam biti asimptotski jednaki.
bubsort Tmax (n) = c1 · (n − 1) +
n−1 X
j · c2
j=1
(n − 1) · n = c2 · (n − 1) + c2 · 2 c2 2 c2 ·n = −c1 + (c1 − ) · n + 2 2 = Θ(n2 )
(4.7)
Iz gornjeg razmatranja zakljuˇcujemo da je i bubsort bubsort Tmin (n) = Tavg (n) = Θ(n2 ).
Primijetili smo da je algoritam izveo svih osam koraka, iako je sortiranje liste bilo gotovo ve´c nakon ˇsestog koraka. Poboljˇsanje ovog algoritma se moˇze posti´ci ako se u njega ugradi provjera, koja ´ce provjeravati je li u nekom prolazu napravljena zamjena, a ako to nije sluˇcaj, ono ´ce zaustavljati algoritam. Sortiranje spajanjem Sortiranje spajanjem (engl. merge sort) je prvi algoritam koji ´cemo ovdje opisati, a koji ima sloˇzenost manju od kvadratne. Vidjet ´cemoda je sloˇzenost ovog algoritma jednaka O(n lg n). Algoritmi sortiranja s takvom sloˇzenoˇs´cu najˇceˇs´ce koriste metodu podijeli pa ovladaj (engl. divide and conquer). Podijeli pa ovladaj je metoda kod koje se problem reducira na jedan ili viˇse problema istog tipa, ali manjih dimenzija, a rjeˇsenje originalnog problema dobija se kompozicijom rjeˇsenja reduciranih problema. Sortiranje spajanjem
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
156
koristi algoritam za spajanje dvije sortirane liste u jednu, isto tako, sortiranu listu. Algoritam 4.11 (Merge) ULAZ: Dvije sortirane liste b1 , . . . , bk i c1 , . . . , cl IZLAZ: Sortirana lista a1 , . . . , ak+l , koja se sastoji od elemenata ulaznih listi. 1. i := 1, j := 1. 2. Ponavljaj korak 3 sve dok je i ≤ k i j ≤ l. 3. Ako je bi < cj onda ai+j−1 := bi , i := i+1 inaˇce ai+j−1 := cj , j := j+1. 4. Ponavljaj korak 5 sve dok je i ≤ k. 5. ai+j−1 := bi , i := i + 1. 6. Ponavljaj korak 7 sve dok je j ≤ l 7. ai+j−1 := cj , j := j + 1. Priliˇcno je jasno da ovaj algoritam zaista spaja dvije sortirane liste u sortiranu listu. Ocijenimo njegovu sloˇzenost. Neka su k i l duljine ulaznih lista. Korak 1 ´ce se izvrˇsiti jednom. Nadalje, za svaki element ulaznih listi, izvrˇsit ´ce se jedan od blokova naredbi iz koraka 3 ili blok naredbi iz koraka 5 ili pak iz koraka 7. Pogledamo li paˇzljivije vidjet ´cemo da su svi ti blokovi sliˇcni i da imaju istu, konstantnu sloˇzenost. Provjeravat ´ce se uvjet iz koraka 2 i 3 ili uvjet iz 4 ili pak 6. Sva se ta tri uvjeta mogu odozgo ograniˇciti nekom konstantom, pa je sloˇzenost spajanja merge Tmax (k, l) ≤ c1 + (k + l) · (c2 + c3 )
= O(k + l) Na sliˇcan se naˇcin vidi da je merge Tmin (n) = O(k + l),
pa je i merge Tavg (n) = O(k + l).
Algoritam sortiranja spajanjem dijeli ulaznu listu na dvije podjednako duge podliste, sortira ih te ih algoritmom za spajanje spaja u jednu sortiranu listu. Svaka se od podlista sortira na isti naˇcin. Tako se problem smanjuje dok se ne dode do jednoˇclanih listi. Sortiranje jednoˇclane liste je trivijalno, tj. svaka jednoˇclana lista je ve´c sortirana.
POGLAVLJE 4. ALGORITMI
157
Algoritam 4.12 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista, koja se sastoji od istih elemenata kao i ulazna lista. 1. Sortiraj listu a1 , . . . , ab n c . 2
2. Sortiraj listu ab n c+1 , . . . , an . 2 3. Spoji a1 , . . . , ab n c i ab n c+1 , . . . , an . 2 2 Algoritam ima sljede´cu sloˇzenost: lnm l m jnk merge n ) + Tmax ( , ) 2m 2 2 ln mersort ≤ 2 · Tmax ( ) + d1 · n + d2 . 2
mersort mersort Tmax (n) ≤ 2 · Tmax (
Napiˇsemo li to kako je to uobiˇcajeno za rekurzije imat ´cemo: tn = 2 · t n2 + d1 · n + d2 . Uvodimo supstituciju sn = t2n i imamo: sn = t2n
= 2 · t 2n + d1 · 2n + d2 2
= 2 · t2n−1 + d1 · 2n + d2 = sn−1 + d1 · n + d2 Oduzmimo jednadˇzbu za (n − 1)-vi ˇclan od jednadˇzbe za n-ti ˇclan: sn sn−1 sn − sn−1
2 · sn−1 + d1 · 2n + d2 2 · sn−2 + d1 · 2n−1 + d2 2 · sn−1 − 2 · sn−2 + 2n−1 · d1
= = =
Iz toga slijedi sn = 3 · sn−1 − 2 · sn−2 + 2 · d1 . Nadalje, duzmimo formulu za (n − 1)-vi ˇclan pomnoˇzenu s 2 od formule za n-ti ˇclan. sn 2 · sn−1 sn − 2 · sn−1
= = =
3 · sn−1 − 2 · sn−2 + 2n · d1 6 · sn−2 − 4 · sn−3 + 2n · d1 3 · sn−1 − 8 · sn−2 + 4 · sn−3
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
158 odnosno,
sn = 5 · sn−1 − 8 · sn−1 + 4 · sn−3 . ˇ Cime smo dobili homogeu rekurziju. Karakteristiˇcna jednadˇzba ove rekurzije je x3 − 5x2 + 8x − 4 = 0. Ova jednadˇzba ima dvostruki korijen x1,2 = 2 i jednostruki korijen x3 = 1. Dakle op´ce rjeˇsenje ove jednadˇzbe je sn = C1 · 2n + C2 · n · 2n + C3 · 1n . Konaˇcno, dobivamo da je t2n = C1 · 2n + C2 · n · 2n + C3 . iz ˇcega slijedi da je tn = C1 · n + C2 · ·n lg n + C3 . Drugim rijeˇcima, M ergesort Tmax = O(n lg n).
Ovaj algoritam nije osjetljiv na razliˇcitosti instanci. Kakva god bila instanca, algoritam ´ce imati jednaku sloˇzenost. Stoga je M ergesort M ergesort Tmin = Tavg = O(n lg n).
Primije´cuje se jedan nedostatak sortiranja spajanjem naspram drugih dosada opisanih algoritama sortiranja: sortiranje spajanjem za svoj rad treba dodatno polje, odnosno dodatni memorijski prostor. Nijedan od dosad opisanih algoritama, osim sortiranja spajanjem, nema taj nedostatak. Sortiranje pomo´ cu hrpe Sortiranje pomo´cu hrpe (engl. heapsort) je vrlo interesantan algoritam. Za razliku od svih dosad prikazanih algoritama, ovaj se algoritam temelji na posebnom apstraktnom tipu podataka - hrpi. Hrpa je puno binarno stablo, kako je to opisano u sljede´cem poglavlju, sa svojstvom da vrh ima manju vrijednost od oba svoja djeteta. Hrpa se puni redom, tako da su joj sve razine, osim posljednje, u potpunosti popunjene. Povrh toga, posljednja se razina puni s lijeva na desno. Zbog toga, pri dodavanju i brisanju elemenata treba paziti da sva svojstva hrpe budu zadovoljena. Sada ´cemo opisati algoritme za dodavanje i brisanje elemenata u hrpi.
POGLAVLJE 4. ALGORITMI
159
Algoritam dodavanja elemenata u hrpu je sljede´ci: novi se element dodaje na najljevije slobodno mjesto na posljednjoj razini stabla. Nakon toga se usporeduje njegova vrijednost s vrijednoˇs´cu njegovog roditelja. Ako je vrijednost novododanog elementa manja od vrijednosti njegovog roditelja, onda im mijenjamo mjesto. Nakon toga provjeravamo novododani element, koji je sada na pretposljednjoj razini s njegovim trenutnim roditeljem, itd. Ovaj postupak ponavljamo sve dok novododani element ne dobije roditelja, koji je manji od njega, ili dok ne postane korijen stabla.
Primjer 4.6 Stavit ´cemo listu koju smo i ranije koristili u hrpu.
7
7
3
3
7
5
1
1
1
3 7
5 8
4
3
4
7
8
1 3 7 9
2 8
6
5
4
5
2
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
160
1 3 6 9
2 8
5
4
7 Slika 4.4
Najefikasnija implementacija hrpe je ona pomo´cu polja. Stavimo li korijen u element polja s indeksom 1, te ako lijevo dijete ˇcvora upisanog u element polja s indeksom n stavimo u element s indeksom 2 · n, a desno dijete u element s indeksom 2 · n + 1, onda ´ce svaki element imati svoje mjesto u polju. Takoder, zbog toga ˇsto je hrpa potpuno stablo, u kojem se posljednja razina puni s lijeva na desno, elementi hrpe ´ce popunjavati elemente polja redom. Algoritam 4.13 ULAZ: Hrpa H : h1 , . . . , hn i element x IZLAZ: Hrpa H 0 koja se sastoji od elemenata stoga S i elementa x. 1. Stavi x u polje u element h[n + 1]. i := n + 1. ¥ ¦ 2. dok je i > 1 i dok je h[i] < h[ 2i ] radi korak 3. ¥ ¦ ¥ ¦ 3. swap(h[i], h[ 2i ]), i := 2i . Jasno je da ovakav algoritam dodavanja novih vrhova u hrpu odrˇzava sva svojstva hrpe. Pogledajmo njegovu sloˇzenost. Neka je n broj elemenata u hrpi. Jasno je da, poˇsto je potpuna, hrpa od n elemenata ima visinu 1 + blog2 nc. Kako algoritam mijenja element s elementom prethodne razine, on moˇze izvrˇsiti toˇcno blog2 nc zamjena, odnosno koraci od 2 do 3 se ponavljaju najviˇse blog2 nc puta. Dakle sloˇzenost ovog algoritma je InsHeap Tmax (n) ≤ c1 + c2 · blog2 nc
= O(lg n). S druge strane, najbolji sluˇcaj je kada je dodani element odmah ve´ci od svog roditelja. U tom sluˇcaju se korak 2 ponavlja jednom, a 3 ni jednom. Stoga imamo
POGLAVLJE 4. ALGORITMI
161
InsHeap Tmin (n) ≤ c1 + c2
= O(1).
Bez obzira na to gdje ´ce novododani element na kraju zavrˇsiti, algoritam ´ce se kroz stablo kretati istim putem. Stoga pretpostavimo da je jednako vjerojatno da ´ce novododani element ostati na svakoj od razina stabla. Tada ta vjerojatnost iznosi blog1 nc , pa je sloˇzenost prosjeˇcnog sluˇcaja 2
blog2 nc InsHeap Tavg (n)
= c1 +
X i=1
1 · i · c2 blog2 nc
1 blog2 nc · (blog2 nc + 1) · · c2 blog2 nc 2 c2 · (blog2 nc + 1) = O(lg n) = c1 + 2 = c1 +
Jedno vaˇzno svojstvo hrpe jest to ˇsto se najmanji element hrpe uvijek nalazi u njenom korijenu. Odatle proizlazi ideja sortiranja pomo´cu hrpe - iz hrpe se izvadi korijen, stavi se na poˇcetak liste, a ostatak hrpe se ponovno preuredi tako da zadovoljava sva svojstva hrpe. Postupak praˇznjenja hrpe je sljede´ci. Iz hrpe se vrijednost korijena preseli u izlaznu listu. Nakon toga se vrijednost najdesnijeg elementa na zadnjoj razini hrpe preseli u korijen a posljednji se element hrpe obriˇse. Time je stablo ostalo potpuno. Joˇs je potrebno osigurati uredaj u hrpi. Promatrana vrijednost, koja naruˇsava uredaj u hrpi nalazi se u korijenu. Usporedimo tu vrijednost s manjim od djece korijena te ako je promatrana vrijednost ve´ca, zamjenimo im mjesta. I dalje se promatrana vrijednost, sada smjeˇstena na drugoj razini stabla, usporeduje s manjim svojim djetetom. Ovaj se postupak ponavlja sve dok promatrana vrijednost ne bude manja od manjeg djeteta (pa onda i od ve´ceg) ili dok se promatrana vrijednost ne nade u ˇcvoru bez djece. Sljede´ci primjer pokazuje kako se prazni hrpa i kreira sortirana lista.
Primjer 4.7 Ispraznimo hrpu iz prethodnog primjera i kreirajmo sortiranu listu.
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
162
1 3
2
6
8
9
5
4
7
1
7 3 6
2 8
5
4
9
1
2 3 6 9
4 8
5
7
POGLAVLJE 4. ALGORITMI
163
1, 2
9 3
4
6
8
5
7
1, 2
3 6
4
9
8
5
7
1, 2, 3
7
4
6 9
4 8
5
6 9
5 8
7
1, 2, 3, 4
7 6 9
5 5
8
6 9
7 8
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
164
1, 2, 3, 4, 5
8
6
6
7
9
8
7
9
1, 2, 3, 4, 5, 6
9 8
7 7
8
9
1, 2, 3, 4, 5, 6, 7
9 8
8 9
1, 2, 3, 4, 5, 6, 7, 8
9
1, 2, 3, 4, 5, 6, 7, 8, 9 Slika 4.5 Algoritam 4.14 ULAZ: Hrpa H : h1 , . . . , hn IZLAZ: Hrpa H 0 koja je dobijena iz hrpe H izbacivanjem vrijednosti koja se nalazila u korijenu. 1. h[1] := h[n]. p := h[n]. Izbaci element h[n], i := 1
POGLAVLJE 4. ALGORITMI
165
2. Radi korake od 3 do 4 sve dok je 2 · i ≤ n i (h[i] < h[2 · i] ili je h[i] < h[2 · i]). 3. Ako je h[2 · i] ≤ h[i · i + 1], onda swap(h[i], h[2 · i]). 4. Ako je h[2 · i] > h[i · i + 1]- onda swap(h[i], h[2 · i + 1]). 5. Vrati p. Ovaj algoritam mijenja promatrani element s onim na sljede´coj razini. Stoga se koraci od 2 do 4 mogu ponoviti najviˇse blog2 nc puta. Stoga je njegova sloˇzenost: DelHeap Tmax (n) ≤ c1 + c2 · blog2 nc
= O(lg n) U najboljem ´ce sluˇcaju prebaˇceni element ostati korijen i ne´ce prolaziti kroz stablo. U tom je sluˇcaju sloˇzenost DelHeap Tmin (n) = c1 + c2
= Θ(1). Nadalje, vrlo sliˇcno kao i kod punjenja zakljuˇcuje se da je DelHeap Tavg (n) = O(lg n).
I na kraju, algoritam sortiranja pomo´cu hrpe ˇcita redom elemente liste i stavlja ih u hrpu. Nakon ˇsto se svi elementi liste nadu u hrpi, poˇcinje praˇznjenje hrpe. Kako se elementi izbacuju iz hrpe tako se redom upisuju natrag u listu. Nakon ˇsto se hrpa isprazni, lista ´ce biti sortirana. Algoritam 4.15 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista koja se sastoji od istih elemenata kao i ulazna lista. 1. Za i := 1, . . . , n radi korak 2. 2. InsHeap(ai ). 3. Za i := 1, . . . , n radi korak 4. 4. ai := DelHeap.
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
166
Jasno je da se u svakom sluˇcaju koraci od 1 do 2, te koraci od 3 do 4 izvode n puta, pri ˇcemu je n duljina ulazne liste. Sloˇzenost algoritama za umetanje elemenata u hrpu i brisanje elemenata iz hrpe izraˇcunata je ranije, pa imamo:
HeapSort Tmax (n) = c1 +
n X
InsHeap Tmax (i) +
i=1
n X
DelHeap Tmax (i)
i=1
n n X X ≤ c1 + (d1 + d2 · log2 i) + (e1 + e2 · log2 i) i=1
i=1
≤ c1 + n · d1 + n lg n · d2 + n · e1 + n lg n · e2 = c1 + (d1 + d2 ) · n + (e1 + e2 ) · n lg n = O(n lg n). Sliˇcno se dobija i da je HeapSort Tavg (n) = O(n lg n).
I na kraju,
HeapSort Tmin (n) = c1 +
n X
InsHeap Tmin (i) +
i=1
≤ c1 +
n X i=1
n X
DelHeap Tmin (i)
i=1
d1 +
n X
e1
i=1
≤ c1 + n · d1 + n · e1 = c1 + (d1 + e1 ) · n = O(n). Ovako izvedeno sortiranje pomo´cu hrpe ima istu manu koju smo spomenuli kod sortiranja spajanjem - potreban je dodatni memorijski prostor za hrpu u kojoj mora biti mjesta za joˇs jednu kopiju svakog elementa ulazne liste. Moˇze li se to izbje´ci? Za razliku od sortiranja spajanjem, sortiranje pomo´cu hrpe se moˇze izvesti prirodno i bez dodatnog prostora. Polje u kojem su smjeˇsteni elementi moˇze se koristiti ujedno i kao hrpa. Kako? Kao prvo, potrebno je malo predefinirati hrpu. Hrpa kakvu smo do sada rabili bila je tzv. min-hrpa, tj. hrpa u kojoj je oznaka roditelja manja od oznaka njegove djece, tj. u kojoj se u korijenu nalazi najmanji element hrpe. Max-hrpa se definira obrnuto. Oznaka roditelja u njoj mora biti ve´ca od oznaka njegove djece. U takvoj hrpi u korijenu ´ce se nalaziti najve´ci element u hrpi. Primjer ovakve hrpe za listu iz naˇseg prethodnog primjera je
POGLAVLJE 4. ALGORITMI
167
9 8
5
7 1
3
4
2
6 Slika 4.6
Ovakva se hrpa moˇze izvesti u samom polju koje sadrˇzi ulazne podatke. Kre´ce se od prvog elementa. Nakon toga se promatra drugi element polja i na ve´c ranije opisani naˇcin, uz zamjenu usporedbe, prva se dva elementa pretvore u hrpu. Nakon toga se promatra tre´ci element u polju i iz prva tri elementa se, na ranije opisani naˇcin, stvori hrpa, itd. Tako se radi sve dok svi elementi polja ne ˇcine hrpu. Nakon toga ´ce se u korijenu nalaziti najve´ci element. Brisanje elemenata iz hrpe ide na isti naˇcin kao i ranije, samo ˇsto se obrisani element ne stavlja u posebno polje, ve´c korijen mijenja mjesto s posljednjim elementom u polju. Nakon toga je sigurno da je element, koji je bio u korijenu, stavljen na svoje zavrˇsno mjesto u polju, tj. na posljednje mjesto, pa se broj elemenata u hrpi smanjuje za 1, i hrpa se preureduje tako da zadovoljava sva traˇzena svojstva. Ovaj je postupak isto tako ve´c opisan ranije. Dakle, postupak je sljede´ci: Algoritam 4.16 ULAZ: Lista a1 , . . . , an IZLAZ: Sortirana lista koja se sastoji od istih elemenata kao i ulazna lista. 1. Za i := 1, . . . , n radi korake 2-4. 2. j = i. 3. Sve dok je (i > 1) ∧ (a[i/2] < a[i]) radi korak 4. 4. swap(a[i], a[i/2]). 5. i := n. 6. Sve dok i > 1 radi korake 7-17. 7. swap(a[1], a[i]). 8. i := i − 1.
168
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
9. j := 1. 10. Sve dok je (2 · j + 1 ≤ i) ∧ (max(a[2j], a[2j + 1]) > a[j]) radi korake 11-16. 11. if a[2 · j] > a[2 · j + 1] radi korake 12-13. 12. swap(a[j], a[2 · j]). 13. j := 2j. 14. Inaˇce radi korake 15-16. 15. swap(a[j], a[2 · j + 1]). 16. j := 2 · j + 1. 17. Ako je (2 · j ≤ i) ∧ (a[2 · j] > a[j]) onda swap([a[j], a[2 · j]). Sloˇzenost ovog algoritma ista je kao i sloˇzenost originalnog algoritma za sortiranje pomo´cu hrpe. Naime, ovo je u biti isti algoritam kao i prethodni, samo s manje koriˇstenog memorijskog prostora. Quicksort algoritam Sada ´cemo obraditi algoritam sortiranja koji danas predstavlja jedan od vrhunaca algoritama za sortiranje. Promiˇsljanjem kako bi se mogao ubrzati algoritam sortiranja spajanjem te izbje´ci potrebu za upotrebom pomo´cnog polja, nastao je ovaj algoritam. Naime, kod algoritma sortiranja spajanjem, sortiranje se vrˇsi u dvije faze: dijeljenje liste na manje podliste, te spajanje podlista u sortiranu listu. Pokuˇsaji ubrzanja faze dijeljenja liste doveli su do algoritma prirodnog sortiranja spajanjem (natural merge sort) ([6] str 161-163), dok je pokuˇsaj ubrzanja faze spajanja doveo do potpuno novog algoritma sortiranja - quicksort algoritma. Quicksort algoritam, kao i algoritam sortiranja spajanjem, temelji se na metodi podijeli pa ovladaj, no kod njega je faza spajanja u potpunosti izbjegnuta. Kao prvo, potrebno je istaknuti jedan element liste - tzv. pivot element. Za pivot element se moˇze uzeti prvi element liste, srednji izmedu prva tri ili ga se moˇze izraˇcunati na bilo koji drugi naˇcin. Jedino ˇsto je vaˇzno jest da se pivot mora izraˇcunati u vremenu O(1). Nakon toga se elementi u listi preslaguju tako da u prvom dijelu liste budu elementi koji su manji od pivota, a u drugom dijelu liste elementi ve´ci od pivota. Nakon toga se algoritam izvodi rekurzivno za prvi i drugi dio liste. Postupak se ponavlja sve dok lista nema manje od dva elementa, a tada sortiranje postaje trivijalno. Primijetimo da nakon ˇsto su elementi u podlistama sortirani nije potrebno nikakvo spajanje. Naime, zbog preuredenja polja, svi su elementi u drugom dijelu liste ve´ci od svakog elementa iz prvog dijela liste.
POGLAVLJE 4. ALGORITMI
169
Prije negoli prikaˇzemo primjer sortiranja liste ovim algoritmom potrebno je razrijeˇsiti neke tehniˇcke detalje izvedbe. Toˇcnije, potrebno je re´ci kako ´ce se vrˇsiti premjeˇstanje elemenata liste? Za to su potrebna dva kursora, od kojih ´ce prvi biti iniciran na drugi element liste i rasti, a drugi ´ce biti iniciran na posljednji element liste i padati. Neka je pivot prvi element liste. Promatramo preostale elemente liste redom. Ako je promatrani element (onaj na kojeg pokazuje prvi kursor) manji od pivota, prvi se kursor pomiˇce za jedan element dalje. Ako je ve´ci od pivota, tada se prelazi na pretraˇzivanje liste odzada. Pretraˇzuje se lista odzada sve dok se ne pronade element manji od pivot elementa. Nadenim se elementima promijene mjesta i nastavlja se traˇziti od prvog kursora. Pretraˇzivanje zavrˇsava kada prvi kursor premaˇsi drugi. Zanimljivo je da ´ce u trenutku kada se prvi kursor nade iza drugoga, drugi kursor pokazivati toˇcno na ono mjesto u listi na kojem ´ce se nalaziti pivot kada ´ce lista biti sortirana. Kako se pivot element, prema naˇsem algoritmu, sada nalazi na poˇcetku promatranog dijela liste, potrebno je zamijeniti pivot element s onim elementom na koji pokazuje drugi kursor. Nakon toga je potrebno odvojeno ponoviti postupak sortiranja za elemente koji se nalaze do kursora i one koji se nalaze iza kursora. Kursor viˇse nije potrebno obradivati jer se on, kao ˇsto smo ve´c rekli, nalazi na mjestu na kojem ´ce se nalaziti i u sortiranoj listi. Primjer 4.8 Sortirajmo opet istu listu quicksort algoritmom. Za pivot element se uzima prvi element u listi. 7
3
5
1
8
4
2
9
6
Pivot element je element s vrijednoˇs´cu 7. Pretraˇzuje se lista od poˇcetka i traˇzi se vrijednost ve´ca od pivota. Prva je takva vrijednost broj 8. Sa straˇznje strane liste traga se za elementom s vrijednoˇs´cu manjom od pivota. To je element s vrijednoˇs´cu 6. 7
3
5
1
8
4
2
9
6
2
9
8
Zamijenimo mjesta tim dvama elementima. 7
3
5
1
6
4
Traˇzimo dalje. Sljede´ci element s ve´com vrijednoˇs´cu od pivota je element s vrijednoˇs´cu 9. S druge strane, sljede´ci element s vrijednoˇs´cu manjom od pivota je element s vrijednoˇs´cu 2. U tom je trenutku drugi kursor preˇsao ispred prvog i ovaj se dio algoritma zavrˇsava. Sada se lista dijeli na dva dijela - od poˇcetka liste pa do drugog kursora, te od prvog kursora do kraja. 7
3
5
1
6
4
2
9
8
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
170
Kako je pivot najve´ci u prvom dijelu, on se stavlja na kraj prvog dijela, te se postupak ponavlja za sve elemente do njega, dok se pivot element sigurno nalazi na onom mjestu gdje ´ce se na´ci i u sortiranoj listi, pa njega ne treba viˇse dirati. Sada se postupak ponavlja na prvom i na drugom dijelu. 2
3
5
1
6
4
7
9
8
Pogledajmo prvi dio. Pivot je broj 2. Promatrano sprijeda, prvi element ve´ci od pivota je element s vrijednoˇs´cu 3. Straga, prvi element s vrijednoˇs´cu manjom od pivota je onaj koji ima vrijednost 1. Mijenjamo im mjesta. 2
3
5
1
6
4
7
9
8
2
1
5
3
6
4
7
9
8
Daljnje pretraˇzivanje sprijeda ´ce se zaustaviti na sljede´cem elementu, s vrijednoˇs´cu 5. Pretraˇzivanje odostraga ´ce opet stati na broju 1, te ´ce u tom trenutku opet prvi kursor prije´ci iza drugoga. Mijenjamo pivot sa zadnjim elementom u prvom dijelu, tj., u ovom sluˇcaju, 2 i 1. 1
2
5
3
6
4
7
9
8
Sada promatramo posljednja dva elementa. Pivot je element s vrijednoˇs´cu 9. Traˇze´ci sprijeda element ve´ci od pivota, prije´ci ´cemo posljednji element liste i u tom trenu prvi kursor ´ce prije´ci iza drugog. Pivot mijenja mjesto s posljednjim u prvom dijelu, ˇcime dobivamo 1
2
5
3
6
4
7
8
9
Sada promatramo jedini preostali niz koji je preostao, koji je dulji od jednog elementa. Pivot ´ce biti element s vrijednoˇs´cu 5. Pretraga sprijeda staje na elementu s vrijednoˇs´cu 6, a straga na elementu s vrijednoˇs´cu 4. 1
2
5
3
6
4
7
8
9
5
3
4
6
7
8
9
Mijenjamo im mjesta. 1
2
Daljnja pretraga sprijeda ´ce zavrˇsiti na broju 6, a pretragom straga ´cemo prije´ci ispred prvog kursora. Pivot mijenja mjesto s elementom s vrijednoˇs´cu 4. 1
2
4
3
5
6
7
8
9
POGLAVLJE 4. ALGORITMI
171
Preostao je joˇs jedan segment polja, koji ima viˇse od jednog elementa, i njega takoder sortiramo. Pivot je element s vrijednoˇs´cu 4. Pretraga sprijeda ´ce prije´ci posljednji element promatranog segmenta. Pivot mijenja mjesto s elementom na kojeg pokazuje drugi kursor, ˇcime se dobije: 1
2
3
4
5
6
7
8
9
odnosno sortirana lista. Algoritam 4.17 ULAZ: Lista a1 , . . . , an i kursori i i j na poˇcetak, odnosno na kraj dijela polja koji sortiramo IZLAZ: Sortirana lista koja se sastoji od istih elemenata kao i ulazna lista. 1. k := i + 1, l := j. 2. Sve dok je k <= l radi korake 3-5. 3. Dok je ((k <= l) ∧ (ai >= ak )) k := k + 1. 4. Dok je ((k <= l) ∧ (ai <= al )) l := l − 1. 5. Ako je k < l swap(ak , al ). 6. Ako je l > i swap(ai , al ). 7. Ako je l > i Quicksort(a, i, l − 1). 8. Ako je k < j Quicksort(a, k, j). Najgori sluˇcaj za ovaj algoritam je kada je lista ve´c unaprijed sortirana ili ako je sortirana obrnutim redosljedom. U tim ´ce se sluˇcajevima, u svakom prolazu lista dijeliti na podlistu od jednog elementa i podlistu koja sadrˇzi sve elemente osim jednog. Korak 1 ima konstantnu sloˇzenost. Koraci od 2 do 5 imaju sloˇzenost c2 + c3 · n. Sloˇzenost koraka 6 je konstantna. Stoga je sloˇzenost Quicksorta u najgorem sluˇcaju Quicksort Quicksort Tmax (n) = c1 + c2 + c3 · n + c4 + Tmax (n − 1) Quicksort = Tmax (n − 1) + d1 · n + d2
Standardni zapis ove rekurzije je tn = tn−1 + d1 · n + d2 . Oduzmemo li od jednadˇzbe za n-ti element niza jednadˇzbu za n − 1-vi dobit ´cemo:
ˇ 4.3. PRETRAZIVANJE I SORTIRANJE
172 tn tn−1 tn − tn−1
= = =
tn−1 + d1 · n + d2 tn−2 + d1 · (n − 1) + d2 tn−1 − tn−2 + d1
Drugim rijeˇcima, dobivamo rekurziju tn = 2 · tn−1 − tn−2 + d1 . Oduzmemo li od ove jednadˇzbe jednadˇzbu za (n−1)-vi element niza, imamo: tn tn−1 tn − tn−1
= = =
2 · tn−1 − tn−2 + d1 2 · tn−2 − tn−3 + d1 2 · tn−1 − 3 · tn−2 + tn−3
tj, dobivamo homogenu rekurziju tn = 3 · tn−1 − 3 · tn−2 + tn−3 . Karakteristiˇcna jednadˇzba ove rekurzije je x3 − 3x2 + 3x − 1 = 0. Ova jednadˇzba ima jedan trostruki korijen x1,2,3 = 1. Dakle, op´ce rjeˇsenje ove rekurzije je tn = C1 · 1n + C2 · n · 1n + C3 · n2 · 1n , odnosno, tn = C1 + C2 · n + C3 · n2 . Dakle, Quicksort Tmax (n) = O(n2 ).
Najbolji mogu´ci sluˇcaj za ovaj algoritam je kada je svaki izabrani pivot srednja vrijednost elemenata dijela liste koji se promatra. U tom se sluˇcaju lista dijeli na dva podjednako dugaˇcka dijela. Sloˇzenost u tom sluˇcaju iznosi j k Quicksort Quicksort n Tmin ) + d1 · n + d2 . (n) ≤ 2 · Tmax ( 2 Dakle, u standardnom obliku tn ≤ 2 · t n2 + d1 · n + d2 . Uvedemo li supstituciju sn = t2n i onda imamo
POGLAVLJE 4. ALGORITMI
173