Izby
Trybunał składał się z trzech Izb Procesowych oraz z Izby Odwoławczej. Sędziowie Izby Odwoławczej byli wspólni dla dwóch trybunałów: Międzynarodowego Trybunału Karnego dla byłej Jugosławii i Międzynarodowego Trybunału dla Rwandy.
MTKJ składał się z 16 niezależnych sędziów stałych oraz maksymalnie 9 sędziów ad litem (dla określonej sprawy). W składzie stałych sędziów oraz sędziów ad litem nie mogło znaleźć się dwóch lub więcej sędziów tej samej narodowości.
W skład każdej Izby Procesowej wchodziło 3 sędziów oraz maksymalnie 6 sędziów ad litem, natomiast Izba Odwoławcza obradowała w składzie 7 sędziów (5 sędziów MTKJ oraz 2 sędziów MTKR). Każda apelacja była rozpatrywana i rozstrzygana w składzie 5 sędziów.
Sędziowie wybierani byli przez Zgromadzenie Ogólne ONZ na kadencję czteroletnią spośród listy kandydatów sporządzonej przez Radę Bezpieczeństwa ONZ, na której znalazły się kandydatury przedstawione przez państwa członkowskie ONZ. Reelekcja sędziów Trybunału była dopuszczalna.
Sędziów ad litem wybierało także Zgromadzenie Ogólne ONZ, jednakże ich reelekcja nie była możliwa. Sędziowie wybierali spośród swojego grona Prezesa MTKJ. Prezes MTKJ był członkiem i przewodniczącym Izby Apelacyjnej.
Urząd Prokuratora
Prokurator MTKJ był odpowiedzialny za śledztwo i ściganie osób odpowiedzialnych za poważne naruszenia międzynarodowego prawa humanitarnego, które zostały popełnione na terytorium byłej Jugosławii od 1 stycznia 1991 roku.
Prokurator działał niezależnie jako oddzielny organ Trybunału oraz nie mógł otrzymywać żadnych instrukcji od żadnego rządu ani z jakiegokolwiek innego źródła.
Prokuratora Trybunału mianował Sekretarz Generalny ONZ na okres 4 lat. Statut Trybunału dopuszczał możliwość ponownej nominacji tej samej osoby na urząd Prokuratora.
Biuro Prokuratora tworzyli Prokurator oraz pracownicy, których mianował Sekretarz Generalny ONZ z rekomendacji Prokuratora. Biuro Prokuratora zajmowało się prowadzeniem śledztw (m.in. zbieraniem dowodów, identyfikacją świadków, ekshumacją masowych grobów) oraz przygotowywaniem i przedstawianiem aktów oskarżenia.
Sekretariat
Sekretariat MTKJ prowadził administrację Trybunału oraz wykonywał prace pomocnicze. Zajmował się m.in. tłumaczeniem i publikowaniem dokumentów, obsługą obrad oraz prowadzeniem archiwum.
Sekretariat składał się z Sekretarza oraz personelu pomocniczego. Sekretarz Trybunału mianowany był na czteroletnią kadencję przez Sekretarza Generalnego ONZ po konsultacji z prezesem trybunału (jednym z sędziów stałych, wybranych przez nich samych spośród własnego grona). Personel Sekretariatu mianowany był przez Sekretarza Generalnego ONZ z rekomendacji Sekretarza Trybunału.