Корректное оформление: трехмерный (предпочтительно), 3-мерный. Если в составе сложных существительных и прилагательных есть числительное, то его можно записать в словесной форме (прописью) или в словесно-цифровой форме (цифрой и присоединяемым дефисом существительным или прилагательным). При использовании словесно-цифровой формы записи буквенные наращения после числительных не пишутся.