varhaiset eurooppalaiset intruusiot ja nousevat sulttaanikunnat
Malakan Maine Aasian kaupan risteyskohtana oli saavuttanut Euroopan 1500-luvun alkuun mennessä. Portugalilaiset, jotka olivat vuosisadan ajan etsineet merireittiä Itä-Aasiaan, saapuivat lopulta Malakkaan vuonna 1509 ja aloittivat uuden aikakauden Euroopan toiminnassa Kaakkois-Aasiassa. Vaikka suuri osa Kaakkois-Aasiasta, mukaan lukien Pohjois-Borneo, koki vain vähän läntistä vaikutusta ennen 1800-lukua, Malaija oli ensimmäisiä alueita, jotka häiriintyivät. Vuonna 1511 Afonso de Albuquerquen johtama Portugalilainen laivasto valtasi Malakan.
koska harvat Malakan kauppiaat päättivät sietää valloittajien korkeita veroja ja suvaitsemattomuutta islamia kohtaan, kaupunki riutui lopulta portugalilaisten hallinnassa. Pohjois-Sumatralla sijainnut Acehin (Acheh) sulttaanikunta loikkasi sittemmin Malakan rappeutumisen luomaan poliittiseen tyhjiöön, ja 1500-luvun ja 1600-luvun alun aikana acehilaiset sekaantuivat voimakkaasti niemimaan asioihin sotien eri sulttaanikuntia vastaan ja toisinaan hallitsivat niistä osaa tai useimpia. Malakan portugalilaishallinto ei kyennyt juuri torjumaan Acehin sulttaanikunnan toistuvia hyökkäyksiä. Samaan aikaan hollantilaiset, jotka olivat perustaneet Hollannin Itä-Intian kauppakomppanian vuonna 1602, nousivat hallitsevaksi eurooppalaisvallaksi Kaakkois-Aasiassa. Vuonna 1641 hollantilaiset valtasivat Malakan, ja vaikka he yrittivät elvyttää sen kauppaa, kaupunki ei koskaan saanut takaisin aikaisempaa loistoaan.
koko Malakan nousun ja tuhon ajan uusia sulttaanikuntia syntyi muuallekin Malaijimaailmaan. He sijaitsivat yleensä suuren joen suulla ja pyrkivät hallitsemaan sisämaahan ja takaisin suuntautuvaa kauppaa, jota asuttivat usein seminomadikansat, kuten Malaijan alkuperäisasukkaat Orang Asli (”Alkuperäinen kansa”) ja Borneon eri alkuperäiskansat. Nuoremmat sulttaanikunnat-kuten Riau-Johor ja Kedah sekä niemimaalla että Brunei Borneon pohjoisrannikolla-ottivat haltuunsa osan Malakan kauppatehtävistä ja kukoistivat useita vuosisatoja. Islam saapui muille Pohjois-Borneon alueille 1400-ja 1500-luvuilla; monet rannikon kansat kääntyivät, mutta suurin osa sisämaan asukkaista jatkoi paikallisten uskontojen harjoittamista pitkälle 1900-luvulle. Malaijien poliittinen kontrolli levisi, ja Brunein sulttaanit vaativat itselleen suuren osan nykyisestä Sarawakista ja Sabahista—vaikka heidän todellinen valtansa ulottuikin harvoin juuri rannikkovyöhykkeen ulkopuolelle. Brunein yritykset hallita sisämaata epäonnistuivat usein, varsinkin aggressiivisten Ibanien (Meridayak) ihmisten aloitettua muuttonsa nykyiseen Sarawakiin Länsi-Borneosta (1500-1700-luvuilla). Siamilaiset saivat hallintaansa osan Pohjois-Malaijien sulttaanikunnista, ja nykyisen Thaimaan eteläisimmässä osassa asuu edelleen pääosin Malaijimuslimeja. Malaijien sulttaanikuntiin kuului monia, usein riitaisia päällikkökuntia. Tämän vuoksi sulttaanikuntien sisällä ja niiden välillä puhkesi ajoittain sotia. Eurooppalaisten näkökulmasta sulttaanikuntajärjestelmä-hierarkkisine, mutta vaihtelevine vaikutuspiireineen liikkuvaan väestöön nähden-oli poliittisesti epävakaa.
1600-luvulla monet Minangkabau-kansat muuttivat Länsi-Sumatralta Lounais-Malaijiin tuoden mukanaan matrilineaalisen sosiokulttuurisen järjestelmän, jonka kautta omaisuus ja valta laskeutuivat naispuolen kautta. He valitsivat päällikkönsä kelvollisten aristokraattisten ehdokkaiden joukosta, mikä on otettu mukaan Malesian nykykuninkaan valintaan. Myöhemmin Minangkabau muodosti yhdeksän pienen valtion liiton (Negeri Sembilan). Malaijan poliittinen moniarvoisuus 1700-luvulla mahdollisti myös Buginilaisten laajamittaisen tunkeutumisen niemimaalle Lounais-Celebesistä (Sulawesi), joka on suuri saari Borneon kaakkoispuolella, joka on nykyään osa Indonesiaa. Buginilaiset siirtolaiset perustivat 1700-luvun puolivälissä Malaijan länsirannikolle Selangorin sulttaanikunnan, jonka kaakkoispuolella he saivat näkyvyyttä Johorin sulttaanikunnassa, joka niemimaan kärjessä oli vauras kauppa-entrepôt, joka houkutteli aasialaisia ja eurooppalaisia kauppiaita. Huolimatta jatkuvasta kansojen siirrosta saaristosta alueelle, Malaija ja Pohjois-Borneo säilyivät harvaan asuttuina 1800-luvun alkuun asti. Monet nykyiset malaijit ovat muualta Kaakkois-Aasiasta tulleiden siirtolaisten jälkeläisiä, jotka saapuivat vuoden 1800 jälkeen. Jaavalta, Celebesiltä ja Sumatralta tulleet maahanmuuttajat osoittivat taipumusta sulautua ajan myötä olemassa olevaan Malaijiyhteisöön, mikä kiihtyi tasaisesti malaijin kansallismielisyyden ja kansankielisen koulutuksen noustessa 1930-luvulla. Osa Minangkabaun, jaavalaisten ja muiden siirtolaisten tuomista perinteistä harjoitetaan edelleen alueilla, joihin he asettuivat, mikä osaltaan vaikutti malaijikulttuurin ja kielen moniin alueellisiin variaatioihin.