Les premières intrusions européennes et les sultanats émergents
La renommée de Malacca en tant que carrefour du commerce asiatique avait atteint l’Europe au début du XVIe siècle. Les Portugais, qui cherchaient depuis un siècle une route maritime vers l’Asie orientale, arrivèrent finalement à Malacca en 1509, inaugurant une nouvelle ère d’activité européenne en Asie du Sud-Est. Bien qu’une grande partie de l’Asie du Sud-Est, y compris le nord de Bornéo, ait connu peu d’impact occidental avant le 19ème siècle, la Malaisie a été l’une des premières régions à être perturbée. En 1511, une flotte portugaise dirigée par Afonso de Albuquerque s’empare de Malacca.
Parce que peu de marchands de Malacca ont choisi de supporter les taxes élevées des conquérants et l’intolérance à l’islam, la ville a finalement croupi sous contrôle portugais. Le sultanat d’Aceh (Acheh) dans le nord de Sumatra a ensuite sauté dans le vide politique créé par le déclin de Malacca, et au cours du XVIe et du début du XVIIe siècles, les Acehnois ont été profondément impliqués dans les affaires péninsulaires, en guerre contre divers sultanats et contrôlant parfois certains ou la plupart d’entre eux. En effet, l’autorité portugaise en sous-effectif à Malacca était à peine en mesure de repousser les assauts répétés du sultanat d’Aceh. Pendant ce temps, les Néerlandais, après avoir créé la Compagnie néerlandaise des Indes orientales en 1602, sont apparus comme la puissance européenne dominante en Asie du Sud-Est. En 1641, les Hollandais s’emparèrent de Malacca, et bien qu’ils essayèrent de relancer son commerce, la ville ne retrouva jamais sa gloire antérieure.
Tout au long de la montée et de la chute de Malacca, de nouveaux sultanats émergeaient ailleurs dans le monde malais. Ils étaient généralement situés à l’embouchure d’une rivière importante et cherchaient à contrôler le commerce à destination et en provenance de l’intérieur, qui était souvent peuplé par des peuples séminomades tels que les Orang Asli (« Peuple originel ») aborigènes de Malaisie et les différents peuples autochtones de Bornéo. Les sultanats plus jeunes – tels que Riau—Johor et Kedah, tous deux sur la péninsule, et Brunei, sur la côte nord de Bornéo – ont repris certaines des fonctions commerciales de Malacca et ont prospéré pendant plusieurs siècles. L’islam a atteint d’autres régions du nord de Bornéo aux XVe et XVIe siècles; de nombreux peuples côtiers se sont convertis, mais la plupart des habitants de l’intérieur ont continué à pratiquer les religions locales jusqu’au 20ème siècle. Le contrôle politique malais s’est étendu, les sultans de Brunei revendiquant une grande partie de ce qui est aujourd’hui le Sarawak et le Sabah — bien que leur pouvoir réel ait rarement atteint bien au-delà de la zone côtière. Les tentatives du Brunéi pour contrôler l’intérieur ont souvent échoué, en particulier après que le peuple agressif Iban (Sea Dayak) a commencé ses migrations vers l’actuel Sarawak depuis l’ouest de Bornéo (XVIe à XVIIIe siècles). Les Siamois sont venus contrôler certains des sultanats malais du nord, et la partie la plus méridionale de la Thaïlande actuelle a encore une population majoritairement musulmane malaise. Les sultanats malais comprenaient de nombreuses chefferies souvent querellées. Par conséquent, des guerres à l’intérieur et entre les sultanats ont éclaté de temps en temps. Du point de vue des Européens, le système du sultanat — avec ses sphères d’influence hiérarchiques mais fluctuantes sur les populations mobiles — était politiquement instable.
Au cours du XVIIe siècle, de nombreux Minangkabau ont migré de l’ouest de Sumatra vers le sud-ouest de la Malaisie, apportant avec eux un système socioculturel matrilinéaire par lequel la propriété et l’autorité descendaient du côté féminin. Ils ont élu leurs chefs parmi les candidats aristocratiques éligibles, un modèle qui a été intégré dans la sélection d’un roi par la Malaisie contemporaine. Plus tard, les Minangkabau formèrent une confédération de neuf petits États (Negeri Sembilan). Le pluralisme politique de la Malaisie au 18ème siècle a également facilité la pénétration à grande échelle de la péninsule par les Buginois du sud-ouest des Célèbes (Sulawesi), une grande île au sud-est de Bornéo qui fait maintenant partie de l’Indonésie. Avec une réputation bien méritée en tant que commerçants maritimes, les immigrants Buginois ont établi le sultanat de Selangor sur la côte ouest de la Malaisie au milieu des années 1700. Au sud-est, ils ont pris de l’importance dans le sultanat de Johor, qui, à la pointe de la péninsule, était un entrepôt commercial prospère qui attirait les marchands asiatiques et européens. Malgré le mouvement continu des peuples de l’archipel vers la région, la Malaisie et le nord de Bornéo sont restés peu peuplés au début du 19ème siècle. De nombreux Malais actuels sont des descendants d’immigrants d’ailleurs dans l’archipel d’Asie du Sud-Est arrivés après 1800. En effet, les immigrants de Java, de Célèbes et de Sumatra ont montré une tendance à s’assimiler à la communauté malaise existante au fil du temps, un processus qui s’est régulièrement accéléré avec la montée du nationalisme malais et de l’éducation vernaculaire dans les années 1930. Certaines des traditions apportées par les immigrants Minangkabau, javanais et autres sont encore pratiquées dans les districts où ils se sont installés, contribuant aux nombreuses variations régionales de la culture et de la langue malaise.