Dogodki zgodbe "Znak štirih" se odvijajo v Londonu leta 1888. Med prisilno praznino zaradi pomanjkanja naročil se mu nameni znani detektivski svetovalec Sherlock Holmes, ki živi od 221 do 6 na ulici Baker, skupaj s prijateljem dr. Watsonom. njegovo deduktivno metodo, ki jo uporablja pri reševanju zločinov. Sherlock Holmes je prepričan, da lahko opazovalka z logičnimi sklepi dokaže obstoj Atlantskega oceana in Niagarskih slapov, četudi jih prej še nikoli ni videl in o njih nič slišal. Upoštevati je treba najmanjše podrobnosti in dejstva, saj lahko neprecenljivo prispevajo k obnovi celotne slike dogodkov, narave osebe in okoliščin zločina.
Kot briljantni detektiv Sherlock Holmes poseduje enciklopedično znanje s področja kriminalistične kronike in kemije, dobro igra violino, ima odlične veščine mačevanja in boksa, dobro pozna geologijo, anatomijo, botaniko, ima izreden igralski talent, a na področju literature, filozofija, astronomija, njegovo znanje je nič. V urah, ko nima ničesar, ga ujame morilska dolgčas in najde uteho v morfiju in kokainu.
Dr. Watson, prijatelj in spremljevalec Sherlocka Holmesa, nekdanjega vojaškega zdravnika, ki je v indijski vojni z Afganistanom služil z angleško vojsko in bil ranjen v tej vojni, živi s Holmesom v istem stanovanju in je kronist vseh primerov, ki jih je razkril njegov prijatelj.
Na veliko veselje Sherlocka Holmesa njegovo začasno brezideje prekine neka sedemindvajsetletna gospodična Morsten z duhovitim in prijaznim obrazom, ki priča o plemenitosti in naklonjenosti duše. Detektivu pripoveduje o nenavadnih dogodkih, ki so se ji zgodili pred kratkim v življenju, in ga prosi za pomoč. V otroštvu je izgubila mamo. Oče, ki je bil v Indiji častnik, je hčer poslal v penzion v Angliji. Leta 1878, torej pred desetimi leti, je prispel v Anglijo, kot je bilo že prej objavljeno v telegramu. Ko pa je gospod Morsten prispela v hotel, je ugotovila, da je njen oče nenadoma izginil. Naslednji dan se ni vrnil, nikoli več se ni vrnil. Nato je od leta 1882 nenadoma začela vsako leto od nekoga prejemati en zelo lep in velik biser. In na dan svojega obiska v Holmesu je prejela pismo, v katerem so jo prosili, da bi zvečer prišla v gledališče v liceju, rekoč, da so jo obravnavali nepošteno in da bi kdo hotel popraviti to krivico.
Sherlock Holmes in dr. Watson se z njo odpravijo na določeno mesto. Pred odhodom pokaže Holmesu nenavadno noto, ki jo najdemo v stvareh pogrešanega Morstena, na katerem je upodobljen načrt neke sobe, s štirimi križi, narisanimi na vrsti na istem mestu, s prečnimi gredami, ki so v stiku med seboj in s pretencioznim podpisom: "znak štirih". Oseba, ki so jo srečali, jih odpelje v taksiju proti južnemu Londonu. Tam srečajo majhnega rdečelasca s sijočo plešasto glavo. Izkazalo se je, da je eden od sinov dvojčkov majorja Sholta, ki je umrl pred šestimi leti, Tadeusz Sholto. Njegov oče in oče Miss Morsten sta nekoč skupaj služila v Indiji v kolonialnih silah. Tam je major Sholto, skrivnostno premožen, pred enajstimi leti odstopil in se vrnil v Anglijo z bogato zbirko orientalskih redkosti in celim osebjem domorodnih hlapcev. Major ni razkril skrivnosti pridobivanja zakladov in kje so ga hranili do njegove smrti. Začutil je njen pristop, poklical je sinove k njemu in jim povedal, kako je umrl stotnik Morsten. Izkazalo se je, da je, ko je pred desetimi leti prišel v London, prišel na Sholto in imela sta spor glede delitve zakladov, o katerem je Morsten vedel in polovica mu je bila dolga. On, ki je trpel zaradi vnetega srca, je imel napad. Nato je padel in, ko je udaril z glavo na vogal skrinje z zakladom, je umrl. V strahu, da bi ga obtožili umora, je Sholto skril kapitanovo truplo in ni rekel nič hčerki, ko je nekaj dni pozneje, ko je iskal svojega pogrešanega očeta, prišla do njegove hiše. Pred smrtjo je hotel tudi sinovoma razkriti, kje je skrita sama skrinja, a strašen obraz zunaj okna mu je to preprečil. Umrl je, saj je skrivnost odnesel s seboj v grob. Njegovi sinovi, ki so čutili dolžnost do gospodične Morsten in so jo želeli znebiti vsaj potrebe, so ji začeli vsako leto pošiljati en biser bisernih kroglic, ki jih je oče odstranil iz skrinje. Tadeusz Sholto in njegov brat Bartholomew zaenkrat sploh nista vedela, kje se skriva bogastvo. Vendar jih je dan prej, po dolgih letih neuspešnih iskanj, Bartolomej našel na podstrešju svoje hiše, v skrivni obzidani sobi. To je sporočil Tadeussu. Kljub nasprotovanju brata, ki je očetovanje podedoval po očetu, se je odločil, da bo zaklade delil z gospodično Morsten. Vsi štirje gredo k Bartolomeju. Odkrijejo pa, da ga je ubil strupni trn, ki so mu ga vrgli v vrat, da so zaklade ukradli in da je na kraju zločina ostal kos papirja z "znakom štirih".
Zaradi majhnih podrobnosti Sherlock Holmes domneva, da sta kriminalista dve osebi - bežni obsojenec po imenu Jonathan Small, ki ima levo protezo namesto desne noge, in številka ena, divjak z Andamanskih otokov, je majhna, zelo jezna in spretna. Potem ko je Small skupaj s kovčkom pomagal, da se je vrv spustil skozi okno, je od znotraj zaprl polkne in se spravil skozi podstrešje. Medtem ko je bežal, si je v kreozotu umazal nogo, Holmes pa je s pomočjo vohljaškega psa Tobyja stopil po reki. Tam je izvedel, da so se kriminalisti vkrcali v najet čoln Aurora. Ko Holmes načrtuje izslediti čoln s pomočjo najete tolpe fantov, se, oblečen kot stari mornar, odpravi iskat Auroro in jo skuša najti na zatožni klopi. To mu uspe. Na pomoč pokliče inšpektorja Scotland Yarda Ethelny Jones, ki preiskuje umor, in skupaj z dr. Watsonom preganjata policijski čoln in kriminalca lovita s kovčkom. Ko lovi divjaka, ga je treba ubiti, saj začne s svojimi strupenimi trnji streljati na zasledovalce. Doktor Watson odpelje skrinjico k gospodični Morsten, na koncu pa se izkaže, da je prazen, česar je zdravnik izjemno vesel, saj bariera, ki je po njegovem mnenju nastala med njim in mlado žensko zaradi domnevnega bogastva, izgine. Sedaj lahko svobodno izpove ljubezen in ji ponudi roko in srce. Gospodična Morsten se mu zdi ponudba zelo privlačna. Majhen, zavedajoč se, da ga bo neizogibno ujel, je nakit vrgel v Temzo, ker ni hotel pustiti nikogar drugega. Smrt Bartolomeja Šolta ni bila del njegovih načrtov in ni ga ubil, ampak hudobni divjak brez Smallsove vednosti. Da v to prepričata Sherlock Holmes in Ethelney Jones, jima pove zgodbo o svojem življenju. V mladosti se je kot vojak vpisal v polk, napoten v Indijo. Vendar se je kmalu moral posloviti: ko se je kopal v Tangi, je krokodil ugriznil nogo nad koleno in postal nemočen pohabljenec. Potem, ko je delal kot nadzornik na plantaži, se je v državi nenadoma začel nemir. Majhna je pohitela z Agrajo in se pridružila britanski enoti, ki se je zatekla v trdnjavo Agra, in zaupali so ji, da je čuval enega od vhodov v trdnjavo in dobil dva sikha. Tretjo noč so Sikiji ugrabili Malega in ga soočili z izbiro: naj bo z njimi ali se za vedno ustavi. Povedali so mu o svojem načrtu: v severnih provincah je živela ena zelo bogata raja. Del svojega bogastva je naročil, naj do konca vojne skriva hlapca Akhmeta v trdnjavi Agra, da bi v primeru zmage Britancev rešil vsaj to skrinjo. Sikhsova in Akhmetova spremljevalca, njuna sostorilca, sta ga hotela ubiti in prevzeti kovček. Majhna se je odločila, da se jim bo pridružila in jim prisegla na zvestobo. Vsi štirje so uresničili svoj načrt. Umorjenega Akhmeta so skrili v eni od dvoran stare trdnjave, kamor še nihče ni vstopil. Skrinja je bila obzidana v steni iste dvorane. Vsak od njih je prejel opombo z načrtom in simboliziralo svojo zvestobo drugemu z »znakom štirih«. Vendar so bili kasneje vsi umorjeni obsojeni na dosmrtno ječo. Med prestajanjem kazni niso mogli uporabiti svojega bogastva. Potem se je Small dogovoril s Sholto in Morstenom, ki sta čuvala zapor, da jima bo povedal, kje je skrita skrinja, prejela bosta svoj delež, v zameno pa bosta organizirala beg za štiri ujetnike. Sholto, ki je šel za kovčkom, je vse prevaral in se sam vrnil v Anglijo. Od takrat je Small začel živeti le z mislijo na maščevanje. Iz zapora je pobegnil s pomočjo prijatelja - domačina po imenu Tongo. V Angliji je vzpostavil stik z enim od služabnikov majorja Sholta in čakal na pravi trenutek. Small je pogledal skozi okno do umirajočega majorja. Čaka v krilih, je ukradel zaklade. Za smrt Bartolomeja je Tongo odvezal z vrvjo. To je bila zgodba Jonathana Mala.
Zakladi niso šli nikomur. Dr. Watson je dobil ženo gospodične Morsten, Ethelney Jones - slavo zaradi rešenega zločina, Holmes pa je bila zadovoljna z vialo kokaina.
