文字コード総合スレ part14

1 ：デフォルトの名無しさん：2023/03/03(金) 15:46:58.08 ID:yKqwMGHT.net

Windows NTは初代からUnicodeがネイティブの文字コードです。cp932ではありません。
プログラマーなら一度は煩わされたことのある文字コードについてのスレ。
UTF-8、Shift_JIS、JIS、EUC、Unicode、UCS、サロゲートペア、コードポイント、文字コード判定、
合成文字、ソート、TRON、外字コード、その他について語り合いましょう。
各言語での文字列の扱いについての質問もOKです。
基本マッターリ、ささ、茶でもどうぞ。

■過去スレ
文字コード総合スレ part1 http://pc11.2ch.net/test/read.cgi/tech/1031028205/
文字コード総合スレ part2 http://pc11.2ch.net/test/read.cgi/tech/1143375639/
文字コード総合スレ part3 http://pc11.2ch.net/test/read.cgi/tech/1180250376/
文字コード総合スレ part4 http://pc11.2ch.net/test/read.cgi/tech/1228052369/
　（スレ再利用）UnicodeとUTF-8の違いは？ http://pc12.2ch.net/test/read.cgi/tech/1177930957/
　（隔離スレ）UnicodeとUTF-8の違いは？　その2 http://pc12.2ch.net/test/read.cgi/tech/1274937437/
文字コード総合スレ part5 http://pc12.2ch.net/test/read.cgi/tech/1236529563/
文字コード総合スレ part6 http://hibari.2ch.net/test/read.cgi/tech/1278923059/
文字コード総合スレ part7 http://toro.2ch.net/test/read.cgi/tech/1306595564/
文字コード総合スレ part8 http://peace.2ch.net/test/read.cgi/tech/1354248962/
文字コード総合スレ part9 http://peace.2ch.net/test/read.cgi/tech/1401301779/
文字コード総合スレ Part10 http://mevius.2ch.net/test/read.cgi/tech/1444822140/
文字コード総合スレ Part11 https://mevius.5ch.net/test/read.cgi/tech/1516629503/
文字コード総合スレ Part12 https://mevius.5ch.net/test/read.cgi/tech/1544931495/
文字コード総合スレ part13
https://mevius.5ch.net/test/read.cgi/tech/1593777227/

426 ：デフォルトの名無しさん：2023/10/07(土) 09:59:00.66 ID:I3+2vFW6.net

>>425
BOMを認識するようシステムコールを改修すればいいだけ
それをしないのはOS開発者の怠慢

427 ：デフォルトの名無しさん：2023/10/07(土) 10:25:02.17 ID:8Whhaa6B.net

>>414
macOS/iOSのSafariではひらがなとカタカナを同一視するという挙動があるようで
みんなちがって、みんないいw

428 ：デフォルトの名無しさん：2023/10/07(土) 10:55:59.28 ID:dXS7C+xF.net

>>426
execve の引数解釈が locale に従うのであれば BOM を付けるべきではない状況に該当すると思う。

429 ：デフォルトの名無しさん：2023/10/07(土) 19:44:18.39 ID:hE+46nhQ.net

BOMなしがいいってのはAsciiしか対応してないレガシーソフトウェアに通したいから？
UTF8を意識できてるならBOMのありなしの両対応は簡単だし

430 ：デフォルトの名無しさん：2023/10/07(土) 20:50:45.55 ID:iX5KyQz4.net

>>429
ファイルの接続とか分割にゴミ処理とかしないですむ。自分がいまから出力するのが先頭かどうか不明とかでも問題は起きない
ファイルの先頭とかには別の識別子置きたいアプリもある。先頭BOMが優先して使えるとか思い上がり。
そして何より、世の中すべて UTF-8 で情報交換すべきで、他の文字コードは内部コード以外は認めない。滅べば良いと本気で信じてるので BOM に使いみちなんかない。
だいたい最近の欧米の主張はこんな感じ。

431 ：デフォルトの名無しさん：2023/10/07(土) 21:50:44.31 ID:gQ4GHwFf.net

UTF8こそが不要で滅べば良い。I

432 ：デフォルトの名無しさん：2023/10/08(日) 05:39:53.69 ID:c7bH/Jal.net

これからの時代は UTF-32

433 ：デフォルトの名無しさん：2023/10/08(日) 05:43:54.93 ID:c7bH/Jal.net

なぁに。1バイトを32bitにしてしまえばエンディアンがどうのなどとつまらない事を考える必要もなくなる。BOMも不要。

434 ：デフォルトの名無しさん：2023/10/08(日) 05:46:34.19 ID:c7bH/Jal.net

いいかげんチマチマと8bitづつ扱うようなケチな精神がいけない。
8bit CPU の事などもう忘れろ。

435 ：デフォルトの名無しさん：2023/10/08(日) 12:38:49.49 ID:BgGDjECm.net

>>432
文字結合あるからUTF32でも解決しない
結局可変ならUTF8が合理的という考え方もある

436 ：デフォルトの名無しさん：2023/10/08(日) 13:46:55.09 ID:VA0G2N7t.net

>>435
つまり UTF1024 が必要ということだな

437 ：デフォルトの名無しさん：2023/10/09(月) 13:08:59.15 ID:anIJ/4nw.net

えっ

438 ：414：2023/10/09(月) 14:11:34.76 ID:o3mTrHdx.net

ふーん

結局UTF-8にBOMつけるか否か？まだ結論は出てないんだな？
じゃあ、今からまた寝るから結論出たら教えて…おやすみ

439 ：デフォルトの名無しさん：2023/10/10(火) 07:39:18.70 ID:dUGfQnTA.net

結論は出ない、永遠に寝てろ

440 ：デフォルトの名無しさん：2023/10/10(火) 08:43:04.58 ID:5iCI9hbC.net

結論も何も最初から規格上は「つけないことを推奨」。規格を無視するやつらは勝手につけてるだけ。
これ以上何に結論を出せと？

441 ：デフォルトの名無しさん：2023/10/10(火) 09:13:29.30 ID:aKJ84hs/.net

禁止はしてないな。いくつか使用すべきではない状況はあるがそれ以外必要に応じて使ってよい。
まあいずれEUCと同じように淘汰はされていくと思うが。

442 ：デフォルトの名無しさん：2023/10/11(水) 14:25:41.16 ID:+taOca1a.net

拡大解釈を結論としちゃうとそりゃ永遠に終わらんよな

443 ：デフォルトの名無しさん：2023/10/11(水) 16:29:14.72 ID:dsbLch4n.net

もう恥ずかしいからやめろよ

444 ：デフォルトの名無しさん：2023/10/11(水) 16:32:12.66 ID:iAp1htgn.net

文字コードの自動判定でBOMが欲しいんでしょ
だったら日本人的には当面ありの方がいいんじゃないの

445 ：デフォルトの名無しさん：2023/10/11(水) 17:54:36.20 ID:UpuL/ixe.net

まじで文字コード判定でBOM必要とするなんてExcel以外にしらんし
他にならって決め打ちか失敗前提で推測する実装にしとけばこんなことにはならなんだ

446 ：デフォルトの名無しさん：2023/10/11(水) 23:59:31.72 ID:Bi4J/pND.net

>>444
今はネット通信もローカルもUTF8を使うのが普通だからBOMは要らない
HTTPやHTMLならそこで文字コード指定できるし

447 ：デフォルトの名無しさん：2023/10/12(木) 21:40:02.12 ID:HDD8qAO3.net

UTF8を使うのが普通だったりエンコーディングを指定できる所ばかりじゃないんだからBOMがあるのは仕方ない

448 ：デフォルトの名無しさん：2023/10/12(木) 22:03:04.02 ID:/ksYFMDD.net

>>445
まさにExcelのためにBOM付けてる

>>446
早くWindowsのシステムロケールが標準でUTF-8になれば良いな

449 ：デフォルトの名無しさん：2023/10/12(木) 22:26:37.40 ID:dSlEv+Dk.net

visual studioもbom必要
設定でutf8指定したら不要だけど
外部のソースまでutf8前提になるので踏み切れない

450 ：デフォルトの名無しさん：2023/10/12(木) 23:49:07.23 ID:vmLUU1Bo.net

いわゆるWindows PowerShell（5.x系）も、日本語を含むスクリプトの場合は BOM付きUTF-8 で保存する必要がある

文字コード、改行コード（何らかのデミリタ）に関わる問題は果てしなく続く
そして、文字数カウント問題も...

451 ：デフォルトの名無しさん：2023/10/13(金) 08:42:04.37 ID:QFEuT346.net

>>448
Mac, iPhone も Linux, android も BOM なし UTF8 オンリーで、十分いけてることを考ええると、
UTF8にBOM必要とかいってるやつも、日本語 Windows の system locale が UTF8 なったら手のひら返すだろうね

452 ：デフォルトの名無しさん：2023/10/13(金) 09:08:31.59 ID:Zvnb58M2.net

必要だから使っているだけで、必要なくなったら使わなくなるだけ。
手のひら返すって発想が出るのはこれをなにか派閥争いや宗教的対立ととらえているんだろうな。

453 ：414：2023/10/13(金) 09:49:50.49 ID:e5Ke0Kb/.net

みんなうるさいなぁ…全然寝れないじゃん！
結論は出ない…という結論が出てるんだから
もうみんな静かにしといて欲しいわ

ホントの結論が出たら起こしてねｗ

454 ：デフォルトの名無しさん：2023/10/13(金) 09:59:16.16 ID:an/6eWNJ.net

UTF-8にBOMは不要だがBOMを要求する出来の悪いアプリが存在するというだけの話
アプリを修正すればいいだけなのに出来の悪い子のためにBOM付きファイルを広めようとするから迷惑がられる

455 ：デフォルトの名無しさん：2023/10/13(金) 20:19:14.08 ID:Zvnb58M2.net

こう、「出来の悪い」とか要らん煽りをちょいちょい挟んでくるのがな

456 ：デフォルトの名無しさん：2023/10/13(金) 21:36:36.55 ID:UzC3xoYA.net

環境のCPのエンコーディングとUTF-8を両対応したくてBOMを導入した設計は偏狭
専用の閉じたデータなら勝手にどうぞだけどCSVファイルだよ
出来が悪いにもほどがある

457 ：デフォルトの名無しさん：2023/10/13(金) 22:08:36.81 ID:Zvnb58M2.net

一応Unicode規格に定められた仕様なわけだがそれを正しく実装しても出来が悪い呼ばわりするわけだな

458 ：デフォルトの名無しさん：2023/10/13(金) 23:15:47.89 ID:SKnf/8eA.net

CSVファイルの一般的書式 (RFC4180 日本語訳)
http://www.kasai.fm/wiki/rfc4180jp

CSVファイルにBOM付けるな、なんてどこに書いてあるんだよ

459 ：デフォルトの名無しさん：2023/10/14(土) 00:20:16.97 ID:U0vUYMwi.net

>>458
ABNF表記

そのRFCはメジャーではないし従う必要もないけどね

460 ：デフォルトの名無しさん：2023/10/14(土) 12:58:12.11 ID:x03gZ5vc.net

VC++はコンパイルオプションでBOM無し通るようになったから許す

461 ：デフォルトの名無しさん：2023/10/14(土) 23:17:30.52 ID:BgrcFKKf.net

あ、そうか。UTF-8なのにBOM入りにする理由はコードの自動判別のためか。

462 ：デフォルトの名無しさん：2023/10/15(日) 01:20:23.94 ID:QRU3KQek.net

>>461
Windows は文字コードの指定がないとシステムロカールに設定されている文字コード（日本語WiIndows11だとCP932=SJIS)という約束になっていて、これを変更せずに UTF−8 を使いたいがための苦肉の策だった(過去形）。
最近はマイクロソフトはこの約束を破棄して標準を UTF−8 にするよう要請してるし、将来システムロケールのデフォルトを UTF−8 に変更することは確実なので、単なる経過措置。

463 ：デフォルトの名無しさん：2023/10/15(日) 01:39:21.51 ID:xER5snLk.net

メモ帳のデフォルトの文字コードは、BOM付きUTF-8

464 ：デフォルトの名無しさん：2023/10/15(日) 02:16:16.57 ID:ZnCIGybA.net

>>463
もう今は BOM なしがデフォ
BOM 付にする場合は格納する時に明示的に選ぶ

465 ：デフォルトの名無しさん：2023/10/15(日) 10:20:43.11 ID:qGVDb90a.net

「メモ帳」に多数の改善、BOMなしUTF-8がデフォルト保存形式に 〜「Windows 10 19H1」
https://forest.watch.impress.co.jp/docs/news/1157696.html

466 ：デフォルトの名無しさん：2023/10/15(日) 11:24:00.22 ID:2RtZyNYP.net

「UTF8はBOMを付けない」
これでWindows以外は統一されている
WindowsでもBOMなしが標準になりつつある
大勢は決した

467 ：デフォルトの名無しさん：2023/10/15(日) 12:36:43.97 ID:MbTcJx+r.net

ExcelがBOM無しCSV/TSVを文字化けせずに読み込んでくれたら解決しそうw
自慢？のcopilot使ってもいいからさっさと解決しろやーw

468 ：デフォルトの名無しさん：2023/10/15(日) 13:03:46.10 ID:QRU3KQek.net

>>467
今でもシステムロカールを UTF8 に切り替ええると BOM なしで読める。システムのデフォルトを SJIS に設定しているから BOM なしを SJIS とみなしてるだけ。

469 ：デフォルトの名無しさん：2023/10/15(日) 14:10:15.45 ID:nt2NScg7.net

>>468
今のExcelの挙動の方がOSの設定を反映してて行儀良いとも言える
WindowsがUTF-8で統一されるには、まずはWindowsのシステムロケールの規定値がUTF-8にならないことにはな

470 ：デフォルトの名無しさん：2023/10/15(日) 15:48:50.38 ID:QRU3KQek.net

>>469
その通りなんだが、マイクロソフト自身がそこを翻して、今後は外部文字コードはシステム設定にかかわらず UTF8 にするようにプログラマー向けのガイドで推奨している。
時代は変わったというやつだな。

471 ：デフォルトの名無しさん：2023/10/15(日) 21:43:34.82 ID:qGVDb90a.net

General Unicode requirement in INF files
https://learn.microsoft.com/en-us/windows-hardware/drivers/display/general-unicode-requirement

INF files should be saved and encoded as Unicode (UTF-16 LE); they must not be ANSI or UTF-8.

472 ：デフォルトの名無しさん：2023/10/15(日) 23:29:04.23 ID:Rd0ckQwZ.net

話してるのは交換用のデータ
そういうレガシーな閉じたデータは困んないし関係ないよ

473 ：デフォルトの名無しさん：2023/10/16(月) 00:06:18.56 ID:WBw8/fQB.net

Microsoft は 、UTF-8 BOM 無しを推奨する理由として「Web アプリや Unix 系の OS が UTF8 BOM 無しなので、文字コード関連のバグを最低限にするためには UTF8 は BOM なしである必要がある」と主張している。
この主張を元に PowerShell とかの基幹アプリもデフォルトを BOM 無しに移行した。
今はもう UTF-8 BOM つきを推奨するメジャー組織は存在しない。

474 ：デフォルトの名無しさん：2023/10/16(月) 00:53:41.28 ID:RCBIhsJ4.net

ハナっから「推奨」していた組織など存在しない

475 ：デフォルトの名無しさん：2023/10/16(月) 09:54:20.88 ID:kgcCjrnK.net

Windows/MS がさっさと間違いを認めれば良いだけ

476 ：デフォルトの名無しさん：2023/10/16(月) 11:23:36.19 ID:WBw8/fQB.net

>>474
マイクロソフトは昔はプログラマ向けにBOMつけることを推奨してたんだよ。ツールとかも勝手にBOMを追加していた。
そもそもユニコード規格で UTF8 のBOMが文字コード判別用として規定されたのもマイクロソフトの主張によるもの。
他の企業とかは反対だったけどMSが強く主張するので、妥協として非推奨という形で規格に取り入れられた。

477 ：デフォルトの名無しさん：2023/10/16(月) 15:03:12.56 ID:wuREpmcE.net

RFC3629の日本語訳
UTF-8, ISO 10646 を変換したフォーマット
https://www.akanko.net/marimo/data/rfc/rfc3629-jp.txt

プロトコルはが常にUTF-8であるなら、そのような場合シグネチャ機能は完全に無駄であるので、そのプロトコルが命令するそれらの原文のプロトコル要素のためのシグネチャとしてU+FEFFの使用を禁止【すべき】(SHOULD)である。

プロトコルは、それらの原文のプロトコル要素、プロトコルの実装が常に適切にメカニズムを使う立場にあることが予測されるとき、そのプロトコルが文字符号識別メカニズムを供給するためのシグネチャとしてのU+FEFFの使用を同じく【禁じるべき】(SHOULD)である。これは、プロトコル要素がそれらの作成時からそれらの適切に分類される伝送の時間まで実装の制御下にきつく維持されるケースであろう。

禁止が不可能、あるいはプロトコルの実装がメカニズムを常に適切に使う立場にないことが予測される時には、プロトコルは、文字符号化識別メカニズムを提供しないそれら原文のプロトコル要素のためのシグネチャとしてU+FEFFの使用を禁じる【べきではない】(SHOULD NOT)。後者2ケースでは、特にプロトコルの実装が、そのような要素を、ファイルシステム、ペイロード(FTPなど)のための符号化識別メカニズムを持たないプロトコル、または文字符号化の適切な識別を保証しない他のプロトコルから得る時のMIME要素(HTTPなど)など、より大きいプロトコル要素で起こりそうだ。

478 ：デフォルトの名無しさん：2023/10/16(月) 22:51:46.46 ID:9bPcPHuX.net

>>473
UTF8のBOM付きは古いローカル環境のファイルを除いて世の中から消滅だね

479 ：デフォルトの名無しさん：2023/10/17(火) 21:20:13.70 ID:ThqcsYHx.net

いずれ消滅はするだろうね。今すぐにではないだろうけど。

480 ：デフォルトの名無しさん：2023/10/20(金) 01:51:40.88 ID:oeTulwfB.net

以下のウェブページ、ちゃんと表示されます? 自分の環境ではところどころ文字化けが

新JIS漢字で包摂の扱いが変わる文字
https://www.aozora.gr.jp/newJIS-Kanji/gokan_henkou_list.html

481 ：デフォルトの名無しさん：2023/10/20(金) 02:19:51.80 ID:oeTulwfB.net

Shift_JIS-2004にするとemacsでは見れるっぽいな

482 ：デフォルトの名無しさん：2023/10/20(金) 02:31:11.04 ID:9LoNmjGS.net

>>480
ページのデコード（文字コード）の問題っぽいので、現代のブラウザでそれらの文字を正しく表示するのは不可能な気がする
少なくともChromiumにはページの文字コードを指定して読み込む機能はない（かなり前に失われた）

483 ：デフォルトの名無しさん：2023/10/20(金) 05:05:07.19 ID:oeTulwfB.net

>>482
なるほど
試しにソースをUTF-8に変換してみたら問題ないっぽいので、そこに書かれているような
UCSのコードポイントがないだとか拡張されたフォントが必要だとかそういうのも
昔話くさいですね。関係者の皆様(?)ご苦労様でした

484 ：デフォルトの名無しさん：2023/10/20(金) 05:40:00.05 ID:oeTulwfB.net

ちなみに当の青空文庫、チラ見すると今でも基本はJIS X 0208/ShiftJISのようで
なかなかストイックですな。結局「包摂の扱いが変わ」らなかったのかな

485 ：デフォルトの名無しさん：2023/10/21(土) 08:53:53.52 ID:gqL/5FH6.net

>>482
https://chrome.google.com/webstore/detail/set-character-encoding/bpojelgakakmcfmjfilgdlmhefphglae

486 ：デフォルトの名無しさん：2023/10/21(土) 12:16:38.09 ID:sf7W/HH9.net

永青文庫といつも間違う

487 ：デフォルトの名無しさん：2023/10/22(日) 23:34:06.39 ID:FeoJDOmp.net

中々に興味深い内容だった

我々の著書はなぜ誤植まみれに？出版業界と標準規格は相容れない世界。【文字ヶｮデ2】#95 - YouTube
https://youtu.be/zSuD9DRzxYk?si=n55RbOykxZLOtTXB

488 ：デフォルトの名無しさん：2023/10/23(月) 07:04:22.11 ID:8gpCEC0e.net

>使わざる終えない

こういう誤字ってる香具師をよく観かけた

489 ：デフォルトの名無しさん：2023/10/23(月) 10:59:00.60 ID:Nln6L14l.net

>>487
流し見したけど、若いなあ。若い視聴者向けにあえて歴史的な部分を嘘で誤魔化したのかもしれないけど。
印刷業界の正字文化も、おおもとはフォントの都合。コンピュターのフォントじゃなくてフォント(物理)。
金属活字は高価なのでマイナーな漢字は種類揃えることができなきて正字しか存在しなかった。それで作家がどんな漢字を手書きで書いてこようが、植字職人が問答無用で正字に直していた。
作家に文句いわれても、これが正しい漢字だとうちは正しい漢字で出版すると言い訳してきたのが伝授されていくうちに文化として定着した。

490 ：デフォルトの名無しさん：2023/10/23(月) 15:38:39.38 ID:1Wk/iiy/.net

常用漢字も公務員ωの都合だしな

491 ：デフォルトの名無しさん：2023/10/23(月) 17:57:09.35 ID:1YV3x5Wl.net

>>485
元の文書はShift_JISx0213なんですよね。チラ見した感じではリストになさそうなので
単にメニューを追加しただけでは無理そう
さらに今は名前がShift_JIS-2004に変わっているという
ただ、Shift_JIS-2004にしてもIANAには登録されてないようですが

このウェブ文書が書かれたときにはどうやって見ていたのだろう
ブラウザにエンコーディングメニューがあった時代にもShift_JISx0213はなかったような

492 ：デフォルトの名無しさん：2023/10/23(月) 21:46:58.87 ID:oe4nN6j5.net

>>489
昭和期の小説なんて送り仮名すら適当だからなあ
昔はいい加減だったものが編集その他の介入が厳格になってかっちりしたのもありそう

493 ：デフォルトの名無しさん：2023/10/24(火) 03:15:10.80 ID:iGA2hVtd.net

>>492
送り仮名や当て字は昔は作家の作風の一部だったので出版社が勝手にいじるのは厳禁だった。あくまで正字に直すだけ、あとは校正校閲で指摘して作家本人に直すか確認。
最近は出版社どうのこうのの前にかな漢字変換先生が“正しい”送り仮名をつけるし、わざわざ選ばない限り当て字にもならないので差がほぼ消滅した

494 ：デフォルトの名無しさん：2023/12/08(金) 16:57:00.72 ID:UNy3lGIg.net

ついにWindows 11のメモ帳に文字数カウント機能が追加される - GIGAZINE
https://gigazine.net/news/20231208-windows-11-notepad-character-count/

495 ：デフォルトの名無しさん：2023/12/09(土) 18:16:22.88 ID:ruczJkGu.net

メモ帳とワードパッドどこで差が付いたのか

496 ：デフォルトの名無しさん：2023/12/09(土) 18:53:06.75 ID:ScuIIvWx.net

ワードパッドはプアマンズワードみたいなもんだったから、あらゆる意味で中途半端だった
エディタとして基本的なものだけでよかったメモ帳とはわけが違うな

497 ：デフォルトの名無しさん：2023/12/09(土) 23:47:37.80 ID:AAQcXydY.net

>>494
合成絵文字とか国旗とかは何文字扱いなんだろう？

498 ：デフォルトの名無しさん：2023/12/12(火) 08:19:11.85 ID:Wmqfa5v8.net

>>471
NVIDIA Windows 10 (64 bit) Display INF file
普通にUTF-8で草生えた

499 ：デフォルトの名無しさん：2023/12/12(火) 21:14:09.31 ID:rWgfKJ70.net

そういえば、Windowsのレジストリスクリプト、
v.4はANSI
v.5はUTF-16LE
だったな

500 ：デフォルトの名無しさん：2023/12/17(日) 01:04:51.64 ID:H3YKPY2M.net

時代のあだはなって奴か

501 ：デフォルトの名無しさん：2023/12/17(日) 02:48:49.64 ID:65psdCcV.net

「世界の全部の文字は16ビットに収まる。16ビット固定長なら全世界の人が幸せになる。」

マイクロソフトの発想は面白かったんだが前提が間違っていたのでどうにもならないな。
韓国がワガママ言ってハングルだけでBMPの1/5の1万2千字持って行くとか、中国や台湾が漢字を5万字追加してBMPに入らなくなるとか想定できないのが悪い。
絵文字は同情の余地がある。Google がandroid携帯で携帯市場に参入するとかは当時は予想し難いだろう。

502 ：デフォルトの名無しさん：2023/12/17(日) 05:27:58.87 ID:SlmDr4VF.net

想定が甘かったのでなく、もともとISOで32bitで文字を表す規格化が進んでいたけど16bitに収めたい企業のゴリ押しで16bitになったんだよ

503 ：デフォルトの名無しさん：2023/12/17(日) 13:09:37.31 ID:65psdCcV.net

>>502
その前の話だよ。ISOとかとの調整以前の動き

504 ：デフォルトの名無しさん：2023/12/17(日) 13:11:41.67 ID:KrIvl4tf.net

じゃあマイクロソフトを持ち出すのはおかしい

505 ：デフォルトの名無しさん：2023/12/17(日) 18:20:50.82 ID:65psdCcV.net

ISOの多言語化とは別に、マイクロソフトがIBMと多言語文字コードの研究開発してたの知らずに文句言ってるだけか。

506 ：デフォルトの名無しさん：2023/12/18(月) 00:12:33.22 ID:HYITYpsg.net

おれは歴史を知ってるふう装っても
その上に歴史に基づかない妄想を書いたことは取り消せないよな

507 ：デフォルトの名無しさん：2023/12/19(火) 10:06:38.46 ID:R7hYmjVP.net

https://ja.wikipedia.org/?curid=1999

1984年、ISOの文字コード規格委員会 (ISO/TC 97/SC2) は文字セットの切り替えを行わずに世界中の文字を単一の文字集合として扱える文字コード規格 (ISO 10646) を作成することを決定し、専門の作業グループ (ISO/TC 97/SC 2/WG 2) を設置し、作業を始めていた。1980年代後半にはこの作業グループにおいてさまざまな提案が検討されている。1990年になって出来あがったISO/TC 97/SC 2/WG 2作成のISO 10646の初版ドラフト(DIS 10646#DIS 10646第1版)では、漢字コードは32ビットで表現され、各国の漢字コードはそのまま入れることになった。しかし中国は漢字を各国でばらばらに符号化するのではなく、あくまで統一して扱うことを求めてこのドラフトには当初から反対しており、今後の漢字コードの方針を決めるため、WG 2は CJK-JRG (Joint Research Group) と呼ばれるグループを別途設置し、そこで引き続き検討することにした。

このような公的機関の動きとは別に、1987年頃からXeroxのJoe BeckerとLee Collinsは、後にUnicodeと呼ばれるようになる、世界中の文字を統一して扱える文字コードを開発していた。1989年9月には「Unicode Draft 1」が発表された。ここではその基本方針として、2オクテット(16ビット)固定長で全ての文字を扱えることを目指しており、そのために日本・中国・韓国の漢字を統一することで2万弱の漢字コードを入れ、さらに将来の拡張用に、3万程度の漢字の空き領域が別に用意されていた。

508 ：デフォルトの名無しさん：2023/12/19(火) 23:28:13.27 ID:39X2u1HU.net

それだけあれば十分だな！

509 ：デフォルトの名無しさん：2023/12/20(水) 14:46:55.65 ID:YarW/zxr.net

>>507
>しかし中国は漢字を各国でばらばらに符号化するのではなく、あくまで統一して扱うことを求めてこのドラフトには当初から反対
デフォルトで中華フォントを表示させるのに成功した

適当なサンプル
https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3524120/e95e7364-7f46-9c34-a037-330f229ac823.png
https://qiita.com/kominato_slj/items/bbe0ae1445d8394d95bf

510 ：デフォルトの名無しさん：2023/12/20(水) 14:57:22.31 ID:bsiqnAom.net

デフォでCJKフォントになるのまじで敗北
いちいち手をいれるの面倒なのはわかるけど
チラシやオフィス文書で頻繁にみかけるし気分悪い

511 ：デフォルトの名無しさん：2023/12/20(水) 16:44:38.02 ID:qByD057F.net

ChatGPTに頼ってもFlutterでは中華フォント対策コードにはならない
て言うか明らかにフォントがおかしいのが気にならないのかよ

https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/215011/72c9d7de-2c2b-44c8-7981-52080d8fb313.png
https://qiita.com/asasigure/items/ea751ec73689e5fc7a41
https://github.com/asasigure1209/my-memo-app/blob/82a89d1fceec4a793294eaffc396e2d1432daa38/lib/main.dart#L19

512 ：デフォルトの名無しさん：2023/12/22(金) 12:48:42.21 ID:aQcDRAHL.net

奴ら平仮名も持ってるから日本語のフォントに来ないってことかな
最初の優先順位はどうやって決まるんだっけ。文字数?

513 ：デフォルトの名無しさん：2023/12/22(金) 17:48:45.93 ID:EF50Jr08.net

Flutter民「おもちゃアプリで細かい事を言われても困ります」(真顔)

514 ：デフォルトの名無しさん：2023/12/23(土) 02:14:34.25 ID:BVNJrzoJ.net

台湾行ったら看板とかでたまにひらがな使ってた。日本でちょっと英語を使うようなノリなのか?
ということは台湾のフォントにひらがなが入っていることもあるか
日本語のフォントだって英語が入ってるものなあ

515 ：デフォルトの名無しさん：2023/12/23(土) 17:37:20.90 ID:O5/zwK5J.net

>>514
何故ひらがなに着目するのかな？
ひらがなが台湾に根付いて独自の使用形態に進化していたとしたら別コードを割り当てたら良いと思う
漢字のオフショア版とはレベルが違うのでは

516 ：デフォルトの名無しさん：2023/12/24(日) 15:05:39.67 ID:cW5CG4wL.net

CJK一緒くたにされてるからUnicode用のフォントなら一般的にひらがな入ってる
いまとなっては日本だけフォントグリフがローカルで特殊
これであってる？

517 ：デフォルトの名無しさん：2023/12/25(月) 03:12:48.56 ID:BLDGJCrU.net

日本語のテキストに日本語のフォントが使われるには
1) テキストが日本語だと判定されて 2) 日本語にはこのフォントを使うという情報
が必要。だけどこの場合そうなってない

で、例えばテキスト中の文字をサポートできるフォントを選ぶ、だけのロジックだと
テキストは日本語でも中国や台湾のフォントにも行っちゃう

というわけで
Flutterのフォントシステムというのは1)と2)はどうなってるんかなと
あるいはそれはFlutterが走ってるOSの役割なのかな、とかちょっと気になったのですが

518 ：デフォルトの名無しさん：2023/12/25(月) 07:58:07.34 ID:bSYpeLlg.net

HTMLならlang属性を指定している範囲がその言語
HTMLの英語使用部分にはlang=en
日本語使用部分にはlang=jaを指定する
入れ子も可能で<html lang=ja>と全体を日本語に指定しつつ
一部のパラグラフを<p lang=zh-CN>と中国語簡体字にすることも可能
全くlangが無指定ならunknownとなりそのHTMLを取り扱っている環境に委ねられる
HTMLを生成する側はその部分が例えば日本語かどうか認識できるためlang=jaを指定するべきである

519 ：デフォルトの名無しさん：2023/12/25(月) 13:20:40.37 ID:0Mvm6Xuj.net

Unicode 以前の古い時代の、中国、台湾、韓国の国家規格の文字コードにも平仮名、片仮名は入っていて向こうの MS-DOS とかでも使えてた。
JIS の文字コードにキリル文字（ロシアの文字）とか入ってるのと同じようなもんだ。

520 ：デフォルトの名無しさん：2023/12/25(月) 13:22:55.99 ID:0Mvm6Xuj.net

当然、大昔の中国フォントや韓国フォントにも平仮名や片仮名がはいっている

521 ：デフォルトの名無しさん：2023/12/25(月) 18:36:31.84 ID:hM8jXSPc.net

>>516
Flutter民「日本だけフォントグリフがローカルで特殊」(迫真)

522 ：デフォルトの名無しさん：2023/12/25(月) 22:38:31.42 ID:BLDGJCrU.net

例えばロシアの人もキリル文字に日本語フォントが使われてしまいコレジャナイ感を
感じることがあったりするんだろうか
（日本語フォントに入っているのは全角文字とのバランスを意識したデザインだったりする）

523 ：デフォルトの名無しさん：2023/12/26(火) 10:43:12.38 ID:gc47Sdem.net

>>522
変って言われたことはあるよ。
А細い文字も全角なので

524 ：デフォルトの名無しさん：2023/12/26(火) 22:03:56.06 ID:AOFB3Nmz.net

Flutterは言語が他で馴染みの薄いDartだから横一線での再スタート感があった。
一部を除いて、そんな動機で参加する再初心者が増えただけだから、
結局は一般知識の差や意識の低さがそこかしこで露になる。

525 ：デフォルトの名無しさん：2024/01/01(月) 09:42:44.69 ID:uj2mjMNR.net

https://qiita.com/ko1nksm/items/4907c1c88d478cac0be5

POSIX では Unicode を含むマルチバイトのロケールの文字に対応することになっていますが、現実的には対応していないコマンドがあります。商用 Unix はおそらく対応しているはずですが、Linux(GNU コマンド)や BSD 系 Unix では対応していない場合があります。Linux や BSD 系 Unix は POSIX に準拠していると主張してないので、完全対応していなくてもそういうものとして扱うしかありません。

さらに Unicode は数年おきにバージョンアップされます。最初のバージョンは 1991 年の 1.0 で収録されている文字は 7,129 文字です。現在の最新バージョンは 2023 年の 15.1 で収録されている文字は 149,813 文字です。収録されている文字の違いはソート順などに影響します。

それぞれの環境で Unicode への対応は異なり、ロケールに従えば環境ごとで結果が異なる可能性があり、ロケールに従わなければ(C ロケールでバイナリとして扱う)、一文字を一文字として扱うことができません。これを解決すると思われる C.UTF-8 ロケールは環境によって対応していない場合がありますし、話を最初に戻すと環境によってマルチバイトのロケールに対応していないコマンドがあります。

UNIX コマンドはマルチバイトという概念がなかった頃から互換性を保ちながら存在し続けており、その結果 Unicode への対応は中途半端で一貫性がない状態です。