Investigadores de la Universidad de Zúrich en Suiza han desarrollado un modelo lingüístico multilingüe llamado SwissBERT para los cuatro idiomas oficiales de Suiza. Los investigadores suizos enfrentaron dificultades con las tareas multilingües porque cada idioma requería un modelo de idioma separado y un idioma ni siquiera tenía un modelo de idioma neural separado. Este modelo puede tener potencial para futuras investigaciones y usos no comerciales mediante el ajuste fino de las tareas posteriores.