Oi Thiago,
Existem vários fatores que resultam nessa marcação da sua sombra, se quer uma sombra mais suave ative a opção soft shadows na tela de edição de luz e configure o raio dessa suavização para que a sombra não se dissipe demais. Outra dica é avançar no motor de render, esse q vc tá usando é o Quick que só serve pra testes e por isso não calcula a luz com precisão e deixa essas arestas serrilhadas. Usando os globals do KT como fundo, vc terá uma iluminação com HDR o que gera um iluminação tbm muito mais real.
Porém nada disso vai adiantar se vc não atentar para o vidro, se colocar um vidro com índice de refração mto alto vai alterar no comportamento da sombra, um bom vidro para deixar a luz do sol entrar é o J4 da biblioteca basic glass que vc pega gratuitamente no site do kerkythea e lembre-se sempre de modelar o vidro com espessura.
Abraços!