Edit in JSFiddle

ul > li:not(:last-child)::after { content: ","; }
<ul>
    <li>Première ligne</li>
    <li>Deuxième ligne</li>
    <li>Troisième ligne</li>
</ul>