Các nhà nghiên cứu tại Đại học Zurich ở Thụy Sĩ đã phát triển một mô hình ngôn ngữ đa ngôn ngữ có tên là SwissBERT cho bốn ngôn ngữ chính thức của Thụy Sĩ. Các nhà nghiên cứu Thụy Sĩ gặp khó khăn với các nhiệm vụ đa ngôn ngữ vì mỗi ngôn ngữ yêu cầu một mô hình ngôn ngữ riêng và một ngôn ngữ thậm chí không có mô hình ngôn ngữ thần kinh riêng. Mô hình này có thể có tiềm năng cho nghiên cứu trong tương lai và sử dụng phi thương mại bằng cách tinh chỉnh các nhiệm vụ hạ nguồn.