Este problema pode acontecer quando DCD ou o DTR não estão corretamente configurados. DCD somente pode ser configurado quando houver uma conexão estabelecida (ou seja quando se recebe uma chamada), e não quando getty estiver monitorando a porta serial. Esteja seguro de que o modem está configurado para somente ativar o DCD quando houver uma conexão estabelecida. DTR deve ser configurado sempre que a porta estiver em uso, como por exemplo sendo monitorada pelo getty, kermit, ou algum outro programa de comunicação.
Outra causa comum de erros de dispositivos ocupados, se dá quando se configura a porta serial para usar uma interrupção já em uso por algum outro dispositivo. Cada vez que um dispositivo é inicializado ele solicita ao Linux permissão para usar a interrupção de hardware. O sistema operacional mantém controle sobre qual interrupção é designada para quem, e caso a interrupção já esteja sendo utilizada, o dispositivo não poderá ser adequadamente inicializado. O dispositivo não tem como informar exatamente este tipo de ocorrência, exceto ao se tentar utilizar a interrupção, quando retornará a mensagem de erro de dispositivo em uso. Verifique as interrupções de todas as placas (serial, Ethernet, SCSI, etc.), buscando os conflitos de IRQs.