/* Title: Pure/General/utf8.scala
Author: Makarius
Variations on UTF-8.
*/
package isabelle
import java.nio.charset.Charset
import scala.io.Codec
object UTF8
{
/* charset */
val charset_name: String = "UTF-8"
val charset: Charset = Charset.forName(charset_name)
def codec(): Codec = Codec(charset)
def bytes(s: String): Array[Byte] = s.getBytes(charset)
/* permissive UTF-8 decoding */
// see also https://en.wikipedia.org/wiki/UTF-8#Description
// overlong encodings enable byte-stuffing of low-ASCII
def decode_permissive(text: CharSequence): String =
{
val buf = new java.lang.StringBuilder(text.length)
var code = -1
var rest = 0
def flush()
{
if (code != -1) {
if (rest == 0 && Character.isValidCodePoint(code))
buf.appendCodePoint(code)
else buf.append('\uFFFD')
code = -1
rest = 0
}
}
def init(x: Int, n: Int)
{
flush()
code = x
rest = n
}
def push(x: Int)
{
if (rest <= 0) init(x, -1)
else {
code <<= 6
code += x
rest -= 1
}
}
for (i <- 0 until text.length) {
val c = text.charAt(i)
if (c < 128) { flush(); buf.append(c) }
else if ((c & 0xC0) == 0x80) push(c & 0x3F)
else if ((c & 0xE0) == 0xC0) init(c & 0x1F, 1)
else if ((c & 0xF0) == 0xE0) init(c & 0x0F, 2)
else if ((c & 0xF8) == 0xF0) init(c & 0x07, 3)
}
flush()
buf.toString
}
private class Decode_Chars(decode: String => String,
buffer: Array[Byte], start: Int, end: Int) extends CharSequence
{
def length: Int = end - start
def charAt(i: Int): Char = (buffer(start + i).asInstanceOf[Int] & 0xFF).asInstanceOf[Char]
def subSequence(i: Int, j: Int): CharSequence =
new Decode_Chars(decode, buffer, start + i, start + j)
// toString with adhoc decoding: abuse of CharSequence interface
override def toString: String = decode(decode_permissive(this))
}
def decode_chars(decode: String => String,
buffer: Array[Byte], start: Int, end: Int): CharSequence =
{
require(0 <= start && start <= end && end <= buffer.length, "bad decode range")
new Decode_Chars(decode, buffer, start, end)
}
}
¤ Dauer der Verarbeitung: 0.0 Sekunden
(vorverarbeitet)
¤
|
Haftungshinweis
Die Informationen auf dieser Webseite wurden
nach bestem Wissen sorgfältig zusammengestellt. Es wird jedoch weder Vollständigkeit, noch Richtigkeit,
noch Qualität der bereit gestellten Informationen zugesichert.
Bemerkung:
Die farbliche Syntaxdarstellung ist noch experimentell.
|
